১৮৮৯ সালে গোখলে ভারতীয় জাতীয় কংগ্রেসের সদস্যপদ লাভ করেন। তার রাজনৈতিক গুরু ছিলেন বিশিষ্ট সমাজ সংস্কারক মহাদেব গোবিন্দ রানডে। বাল গঙ্গাধর তিলক, দাদাভাই নওরোজি, বিপিনচন্দ্র পাল, লালা লাজপৎ রাই, অ্যানি বেসান্ত প্রমুখ সমসাময়িক নেতৃবৃন্দের সঙ্গে ভারতীয়দের হাতে অধিকতর শাসনক্ষমতা দেওয়া ও আইনসভায় ভারতীয় প্রতিনিধিদের সংখ্যা বৃদ্ধির পক্ষে বক্তব্য রাখেন। রাজনৈতিক আদর্শের বিচারে তিনি ছিলেন মধ্যপন্থী নেতা। তিনি মনে করতেন, আবেদন-নিবেদন নীতিতে চললে ভারতীয় অধিকারগুলি আদায়ের ক্ষেত্রে ব্রিটিশদের সম্ভ্রম পাওয়া সহজ হবে। গোখলে আয়ারল্যান্ড সফর করেন এবং তারই উদ্যোগে আইরিশ জাতীয়তাবাদী নেতা আলফ্রেড ওয়েব ১৮৯৪ সালের জাতীয় কংগ্রেস অধিবেশনে সভাপতিত্ব করেন। পরের বছর গোখলে তিলকের সঙ্গে কংগ্রেসের যুগ্মসচিব নিযুক্ত হন। অনেক দিক থেকেই গোখলে ও তিলকের প্রাথমিক জীবন সংক্রান্ত নানা মিল ছিল। তারা দুজনেই ছিলেন চিৎপবন ব্রাহ্মণ (যদিও তিলক ছিলেন ধনী); দুজনেই এলফিনস্টোন কলেজে পড়াশোনা করেন; দুজনেই ছিলেন গণিতের অধ্যাপক; এবং দুজনেই ছিলেন ডেকান এডুকেশন সোসাইটির গুরুত্বপূর্ণ সদস্য। তবুও কংগ্রেসে যোগ দেওয়া পর ভারতীয়দের জীবনযাত্রার মানোন্নয়নের উপায় সংক্রান্ত প্রশ্নে উভয়ের মধ্যে মতপার্থক্য প্রকট হয়ে পড়ে।

১৮৯১-৯২ সাল নাগাদ ব্রিটিশ সরকারের এজ অফ কনসেন্ট বিল নিয়ে তিলকের সঙ্গে গোখলের মতপার্থক্য প্রকট হয়। গোখলে ছিলেন উদারপন্থী সংস্কারক। তিনি হিন্দুধর্মের সংস্কার কল্পে বাল্যবিবাহ প্রথা রদ করতে চেয়েছিলেন। বিলটির বিষয় ছিল সামান্যই – এই বিলে প্রাপ্তবয়স্কতার মাপকাঠি দশ বছর থেকে বাড়িয়ে বারো বছর করা হয়েছিল। কিন্তু তিলক বিষয়টিকে হিন্দুধর্মের অভ্যন্তরীণ বিষয়ে ব্রিটিশদের হস্তক্ষেপ বলে মনে করেন। তিলক মনে করতেন এই ধরনের সংস্কার ব্রিটিশ সাম্রাজ্যবাদী সরকারের হাতে না হয়ে স্বাধীনতার পর ভারতীয়দের নিজেদের হাতে হওয়াই বাঞ্ছনীয়। তিলকের বিরোধিতা সত্ত্বেও, সেদিন গোখলে ও তার সহকারী সমাজ সংস্কারকদের জয় হয়েছিল এবং বোম্বাই প্রেসিডেন্সিতে বিলটি আইনে পরিণতও হয়েছিল।

১৯০৫ সালে গোখলে জাতীয় কংগ্রেসের সভাপতি নির্বাচিত হন। এরপর তিনি তার এই নবলব্ধ ক্ষমতা তার দীর্ঘদিনের প্রতিদ্বন্দ্বী তিলকের ক্ষমতা খর্ব করার কাজে ব্যবহার করেন। ১৯০৬ সালে জাতীয় কংগ্রেসের সভাপতির মনোনয়ন থেকে তিলকের নাম বাদ দেওয়া হয়। ফলে কংগ্রেস দ্বিধাবিভক্ত হয়ে পড়ে। গোখলে ও তিলক যথাক্রমে নরমপন্থী ও চরমপন্থী গোষ্ঠীর নেতৃত্বদান করতে থাকেন। এই চরমপন্থীদেরই পরবর্তীকালে বলা হত উগ্র জাতীয়তাবাদী। তিলক গণআন্দোলন ও প্রত্যক্ষ বিপ্লবের মাধ্যমে ভারত থেকে ব্রিটিশ শাসন উচ্ছেদের ডাক দেন। অন্যদিকে গোখলে সংস্কারপন্থীই থেকে যান। কংগ্রেস দলও এই বিবাদের জেরে দুটি শাখায় ভেঙে গিয়ে এক দশকের জন্য অকার্যকর হয়ে পড়ে। তবে ১৯১৬ সালে গোখলের মৃত্যুর পর দুই শাখা আবার পরস্পরের কাছাকাছি এসেছিল।

মৃত্যু
জাতীয় কংগ্রেস ও তিলকের প্রতিদ্বন্দ্বিতা
প্রথম জীবন
সারভেন্টস অফ ইন্ডিয়া সোসাইটি