A súa nai, Daniella Naomi (nacida Weiser), que traballou como instrutora de movementos, naceu en Israel. O seu pai, Gerald Baron Cohen (1932<unk>2016), propietario dunha tenda de roupa, naceu en Londres e creceu en Gales. Baron Cohen foi criado xudeu. É fluente en hebreo, así como no seu inglés nativo. A familia materna de Baron Cohen eran xudeus alemáns que se trasladaron a Israel. A súa familia paterna tamén eran xudeus ashkenazi, que se trasladaron a Pontypridd e Londres no Reino Unido. O seu avó paterno, Cohen Morris, engadiu "Baron" ao seu apelido. A súa avoa materna, que vivía en Haifa, Israel, formou como bailarina de ballet en Alemaña.
Weiser