Kling speelde een belangrijke rol in de ontwikkeling van de terugkeer van Mercedes naar de internationale competitie in de vroege jaren vijftig, en zijn overwinning in de Carrera Panamericana wegrace van 1952, met de toenmalige experimentele Mercedes-Benz 300SL, was een bepalend punt in het verzekeren van het management van Daimler-Benz dat motorsport een plaats had in de toekomst van Mercedes. In 1954 werd hij opgeroepen voor de hernieuwde Mercedes Grand Prix-ploeg. Hij eindigde minder dan een seconde achter de legendarische Juan Manuel Fangio op zijn Formule 1-debuut. Hij behaalde de tweede plaats in de 1954 Franse Grand Prix.
op het snelle circuit Reims-Gueux. Deze veelbelovende start zou niet lang duren, en met de komst van Stirling Moss bij Mercedes in 1955 werd Kling effectief gedegradeerd tot derde coureur. Afgezien van het wereldkampioenschap behaalde Kling echter een indrukwekkende overwinning in de Grand Prix van Berlijn (op AVUS, een ander snelcircuit). Hij verliet het Formule 1-team aan het einde van het seizoen, om Alfred Neubauer op te volgen als hoofd van Mercedes motorsport. Hij bekleedde deze functie tijdens hun succesvolle rallycampagnes van de jaren zestig, waarbij hij af en toe zelf het stuur overnam. Bij zo'n gelegenheid reed hij met een Mercedes-Benz 220SE naar de overwinning in de machtige trans-Afrikaanse rally van Algiers naar Kaapstad in 1961.