El seu pare era un immigrant irlandès del Comtat de Donegal, mentre que la seva mare era una irlandesa-americana. El seu avi maternal, Dennis Bearey, era un immigrant irlandès que va treballar com a oficial de la policia de Nova York. Carlin va recordar que el nom de soltera de la seva àvia era O'Grady, però es va canviar a Grady abans d'arribar als Estats Units. Va fer broma que "va deixar caure l'O'Grady a l'oceà en el camí cap aquí". Va posar el seu nom a The George Carlin O'Grady Show com un acte d'homenatge als seus pares.
Força Aèria