Pe 26 mai 1917, Graf s-a căsătorit cu Karoline Bretting. Un an mai târziu, s-a născut fiica lor Annemarie (13 iunie 1918 <unk> 2008), numită Annamirl. La începutul aceluiași an, Graf a fost arestat pentru participarea la o grevă a muncitorilor din industria munițiilor.
Graf a fost arestat.