Penzias lair ing Munich, Jerman, putra saka Justine (née Eisenreich) lan Karl Penzias, sing nglakoni bisnis kulit. Kakek-kakekne teka ing Munich saka Polandia lan kalebu pimpinan Reichenbach Strasse Shul. Nalika umur enem taun, dheweke lan adhine Gunther kalebu bocah-bocah Yahudi sing dievakuasi menyang Inggris minangka bagean saka operasi penyelamatan Kindertransport. Sawetara wektu mengko, wong tuwane uga mlayu saka Jerman Nazi menyang AS, lan kulawarga kasebut mapan ing Distrik Garment New York City ing taun 1940. Ing taun 1946, Penzias dadi warga negara Amerika Serikat. Dheweke lulus saka Brooklyn Technical High School ing taun 1951 lan sawise mlebu sinau kimia ing New York City, dheweke ganti jurusan lan lulus ing taun 1954 kanthi gelar fisika, peringkat paling dhuwur ing kelas.
Sekolah Menengah Teknik Brooklyn