Kohl se účastnil pozdní fáze druhé světové války jako dospívající voják. Vstoupil do Křesťansko-demokratické unie (CDU) v roce 1947.
Kohl by později vypadl s některými členy Křesťansko-demokratické unie.