1917 m. gegužės 26 d. Grafas vedė Karoline Bretting. Po metų gimė jų dukra Annemarie (1918 m. birželio 13 d. <unk> 2008 m.), vadinama Annamirl. Tais pačiais metais Grafas buvo suimtas už dalyvavimą šaudmenų darbuotojų streike. Jis taip pat susipažino su moterimi, kuri vėliau tapo jo antra žmona, Mirjam Sachs, Manfred George'o sesuo ir Nelly Sachs pusbrolis.
Grafas buvo suimtas.