In de late jaren zeventig werd Fergusson actief in de conservatieve politiek. Als een fervent tegenstander van de devolutie sprak hij op conferenties om de Conservatieven te overtuigen zich tegen de Schotse Vergadering te verzetten; na het succes van deze campagne was hij lid van de "Scotland Says No" -campagne voor het decentralisatiereferendum.
Ik weet het. Bij de verkiezingen voor het Europees Parlement in 1979 vocht Fergusson in het kiesdistrict Strathclyde West, dat veilig leek voor Labour; een ineenstorting van de Labour-stemmen zorgde er echter voor dat hij met 1.827 stemmen werd verkozen.