Kling fontos szerepet játszott a Mercedes visszatérésében a nemzetközi versenyekbe az 1950-es évek elején, és az 1952-es Carrera Panamericana közúti versenyen elért győzelme, az akkoriban kísérleti Mercedes-Benz 300SL vezetésével meghatározó volt abban, hogy biztosítsa a Daimler-Benz vezetését, hogy a motorsportnak helye van a Mercedes jövőjében. 1954-ben a felújított Mercedes Grand Prix csapatába hívták, és a legendás Juan Manuel Fangio után kevesebb, mint egy másodperccel végezte a Forma-1-es debütálását, a második helyen a
1954-es Francia Nagydíj a Reims-Gueux gyors pályán. Ez az ígéretes kezdet nem tartott sokáig, és a Stirling Moss érkezésével a Mercedesbe 1955-ben Kling ténylegesen harmadik versenyzővé vált. A világbajnokságból távol azonban Kling lenyűgöző győzelmet aratott a berlini nagydíjon (AVUS-on, egy másik nagy sebességű pályán). A szezon végén elhagyta a Forma-1-es csapatot, hogy Alfred Neubauer után a Mercedes motorsport vezetője legyen. Ebben a posztban volt a sikeres kampányok során az 1960-as években, alkalmanként ő maga vette át a kormányt. Az egyik ilyen alkalommal egy Mercedes-Benz 220SE-t vezetett a hatalmas 1961-es Algiers-Cape Town transz-afrikai rally győzelméhez.