Od 5. května 1942 do 28. listopadu 1944 Oberg sloužil jako vrchní velitel SS a policie (, HSSPF) "Frankreich" (Francie) nad všemi německými policejními silami ve Francii, včetně SD a Gestapa. Byl nejvyšší autoritou ve Francii pro řízení antižidovské politiky a boje proti francouzskému odboji. V roce 1942, krátce po svém příjezdu, vydal dekret o židovském odznaku pro identifikaci, podpořil shromáždění 13 152 Židů na pařížském Vélodrome d'Hiver (Vel' d'Hiv Roundup
), a nařídil hromadnou popravu rukojmí jako odplatu za činy francouzského odporu. Tehdy byl odsouzen jako "Parížský řezník". Na rozkaz Heydricha deportoval Oberg přes 40 000 Židů ze země za pomoci policie Vichy Francie vedené René Bousquetem.