Kim werd geboren in Osaka bij ouders van Jeju-oorsprong en ging met zijn familie naar Jeju, een Koreaans eiland, waar hij kennis maakte met aanhangers van de Koreaanse onafhankelijkheidsbeweging. In 1945, toen hij terug was in Osaka, was de oorlog voorbij.
Ik weet het. Direct daarna ging hij naar Seoul, maar kwam daarna weer terug naar Japan, waar hij zou blijven. Hij studeerde aan de Kansai Universiteit en studeerde af aan de afdeling Literatuur van de Universiteit van Kyoto, gespecialiseerd in literatuur. Kort na zijn afstuderen brak het bloedbad van 3 april uit in zijn voorouderlijke geboortestad Jeju, een incident dat een motief van zijn latere werk werd.