1976 m. federalinėse rinkimuose CDU/CSU koalicija laimėjo atskirus rinkimų sąrašus Šiaurės Reino-Vestfalijos, Žemutinės Saksonijos, Hamburgo ir Bremeno valstijose. Jis tikėjosi nukreipti dešiniųjų sparno rinkėjus iš FDP į CSU ir net surengė privačius susitikimus su pramonės atstovais Šiaurės Reino-Vestfalijoje. Šie bandymai sukėlė nepatogumą CDU narių bazėje ir trukdė abiejų partijų šansams artėjančiuose rinkimuose. Pats Kohl'as per šias įtampas tylėjo, o kiti, pavyzdžiui, būsimasis prezidentas Karl Carstens, pagyrė jį už tai, kad jis siekė sutarimo partijos centre.
Reino krašto-Pfalco ministras pirmininkas