Á 26 maí 1917 giftist Graf Karoline Bretting. ári síðar fæddist dóttir þeirra Annemarie (13. júní 1918 <unk> 2008), kölluð Annamirl. Í byrjun sama árs var Graf handtekinn fyrir þátttöku í verkfalli vopnaverkamannanna. Hann hitti einnig konuna sem síðar varð önnur eiginkona hans, Mirjam Sachs, systur Manfred George og frænka Nelly Sachs. Árið 1919 var Graf handtekinn aftur fyrir þátttöku í byltingarhreyfingum í München.
Graf var handtekinn.