Pichai er fæddur í Madurai í Tamil Nadu í Indlandi í tamilskri fjölskyldu. Móðir hans Lakshmi var stenograf og faðir hans, Regunatha Pichai var rafmagnsverkfræðingur hjá GEC, breska samstæðunni. Faðir hans átti einnig framleiðsluaðstöðu sem framleiddi rafmagnsþætti. Pichai ólst upp í tveggja herbergja íbúð í Ashok Nagar, Chennai. Pi lauk skólagöngu í Jawahar Vidya Vidlaya, Central Board of Secondary Education skóla í Ashok Nagar, Chennai og lauk 12. bekk frá Vana Vani skóla í Indian Institute of Technology Madras.
álfræði