Penzias alizaliwa Munich, Ujerumani, mwana wa Justine (née Eisenreich) na Karl Penzias, ambaye aliendesha biashara ya ngozi. Babu na nyanya yake walikuwa wamekuja Munich kutoka Poland na walikuwa miongoni mwa viongozi wa Reichenbach Strasse Shul. Akiwa na umri wa miaka sita, yeye na ndugu yake Gunther walikuwa miongoni mwa watoto wa Kiyahudi waliohamishwa kwenda Uingereza kama sehemu ya operesheni ya uokoaji ya Kindertransport. Muda fulani baadaye, wazazi wake pia walikimbia kutoka Ujerumani ya Nazi kwenda Marekani, na familia ilikaa katika Wilaya ya Mavazi ya New York City mnamo 1940. Mnamo 1946, Penzias akawa raia wa asili wa Merika. Alihitimu kutoka Shule ya Ufundi ya Brooklyn mnamo 1951 na baada ya kujiandikisha kusoma kemia katika Chuo cha Jiji la New York, alibadilisha majukumu na kuhitimu mnamo 1954 na digrii ya fizikia, karibu na darasa lake la juu.
Shule ya Ufundi ya Brooklyn