Zijn vader Fritz, geboren op 13 juni 1913 in Absteinen (Opstainys in de gemeente Pagėgiai), bij Pleskau, werd een maand voor zijn geboorte vermoord. Begin 1945 vluchtte zijn moeder met hem voor de naderende Sovjet-troepen tijdens de evacuatie van Oost-Pruisen.
in zware winteromstandigheden. Hun trein kwam vast te zitten bij Arnstadt, dat eerst bezet was door de Amerikanen, maar later deel werd van de Oost-Duitse Sovjet bezettingszone. In 1949 staken ze de reeds versterkte grens over om zich te vestigen in Hannover, West-Duitsland (zoals verteld in zijn lied "Renegade" op het album "Steppenwolf 7"). De jonge Joachim, die nu in de Britse bezettingszone woonde en aan oogproblemen leed, die geen Engels kon spreken of begrijpen, werd voor het eerst geïnspireerd door en leerde over rock 'n' roll muziek terwijl hij naar Little Richard luisterde op de radio van de Amerikaanse strijdkrachten. Hij zag ook een nieuwsfilm over de Hongaarse Revolutie van 1956, geschoten en gesmokkeld door László Kovács (later bekend als "Easy Rider"). Toen zijn familie in 1958 naar Toronto verhuisde, hadden de leraren moeite om zijn geboortenaam uit te spreken, dus werd hij in plaats daarvan John K genoemd. Vijf jaar later verhuisden ze naar Buffalo, New York.