George Denis Patrick Carlin alizaliwa Mei 12, 1937, katika Manhattan, New York, mtoto mdogo wa katibu Mary Carlin (née Bearey) na The Sun's matangazo meneja Patrick John Carlin. Baba yake alikuwa mhamiaji wa Ireland kutoka County Donegal High School, wakati mama yake alikuwa Irish-American. Carlin ya mama babu, Dennis Bearey, alikuwa mhamiaji wa Ireland ambaye alifanya kazi kama NYPD afisa. Carlin alikumbuka kwamba bibi yake jina la kwanza alikuwa O'Grady, lakini ilibadilishwa kuwa Grady kabla ya yeye aliwasili Marekani.
Jeshi la Anga