गूगल ज्वाइन करने से पहले सुंदर पिचाई मैकेंजी एंड कंपनी के मैनेजमेंट कंसल्टिंग सेल में काम किया करते थे. इस कंपनी में उन्होंने अप्लाईड मैटेरियल में इंजिनियरिंग और प्रोडक्ट मैनेजमेंट के लिए भी काम किया. इस तरह विभिन्न कंपनियों में काम करते हुए उन्होंने साल 2004 में सर्च टूलबार के टीम मेंबर के रूप में गूगल ज्वाइन किया. इनकी कार्यशैली से गूगल के शीर्ष अधिकारी बहुत ही प्रभावित थे. पिचाई के सुझाव पर ही गूगल ने खुद का ब्राउज़र लाने का निश्चय किया. गूगल क्रोम ओएस और क्रोम ब्राउजर को लोगों तक पहुँचाने का श्रेय सुंदर पिचाई को ही जाता है. गूगल प्रोडक्ट में आज क्रोम सबसे लोकप्रिय ब्राउजर है. गूगल मेप में भी सुंदर का विशेष योगदान हैं. इन्होने खासतौर पर गूगल ड्राइव के लिए काम किया. 2008 में सुंदर पिचाई को गूगल ने प्रोडक्ट डिजाइनिंग का वाइस प्रेसिडेंट नियुक्त किया.