Penzias gimė Miunchene, Vokietijoje, Justine (gimė Eisenreich) ir Karlo Penziaso sūnumi, kuris dirbo odos versle. Jo seneliai atvyko į Miuncheną iš Lenkijos ir buvo Reichenbach Strasse Shul lyderiai. Šešerių metų amžiaus jis ir jo brolis Gunther buvo tarp žydų vaikų, evakuotų į Britaniją kaip Kindertransport gelbėjimo operacijos dalis. Po kurio laiko jo tėvai taip pat pabėgo iš nacių Vokietijos į JAV, o šeima 1940 m. įsikūrė Niujorko apylinkėje.
Bruklino techninė vidurinė mokykla