Pichai vyrůstal ve dvoupokojovém bytě v Ashok Nagaru v Chennai. Pichai dokončil školní docházku v Jawaharya Vidyalaya, střední škole středního vzdělávání v Ashok Nagaru v Chennai a dokončil XII. třídu ve škole Vana Vani v Indickém technologickém institutu v Madrasu. Získal titul z Indického technologického institutu v Kharagpuru v oboru metalurgického inženýrství. V současné době je vynikajícím absolventem. Drží MS v materiálových vědách a inženýrství ze Stanfordu a MBA z Wharton School of the University of Pennsylvania, kde byl jmenován profesorem.
metalurgické inženýrství