Gummer byl parlamentním soukromým tajemníkem ministra zemědělství ve vládě Edwarda Heatha, než byl jmenován místopředsedou Konzervativní strany - pozici, kterou zastával až do pádu vlády v roce 1974. Po návratu do Sněmovny v roce 1979 zastával různé vládní funkce a byl předsedou Konzervativní strany od roku 1983 do roku 1985 - funkci, kterou zastával v době bombardování hotelu v Brightonu.
během konference Konzervativní strany v roce 1984. V roce 1989 nastoupil do vlády jako ministr zemědělství, rybolovu a potravin a v roce 1993 se stal státním tajemníkem pro životní prostředí pod Johnem Majorem.