Skrifaðu framhald fyrir þessa málsgrein - Rifkind var fyrst til Alþingis, án árangurs, árið 1970 í Edinburgh Central kjördæmi. Hann gekk inn í þingið í febrúar 1974 aðalkosningar sem fulltrúi Edinburgh Pentlands fyrir skoska íhalds- og sambandsflokknum. Í forystu kosninganna árið 1975 studdi hann Edward Heath í fyrstu umferð en þegar Heath dró sig úr kosningunum kaus Rifkind Margaret Thatcher. Thatcher skipaði Rifkind í forsetaembætti stjórnarandstöðunnar í skoskum málum. Hann lét síðan af störfum sínum (samt skoska skuggaráðherra Alick Buchanan-Smith) í mótmæli gegn ákvörðun skuggaráðsins um að greiða atkvæði gegn frumvarpi ríkisstjórnarinnar um skoska þing. Rifkind hélt því fram að þar sem íhaldsflokkurinn stuðlaði þá meginreglu skosks þings hefði verið æskilegra annað hvort að kjósa um aðra lestur frumvarpsins eða að láta vera og reyna að bæta frumvarpið. Í eftirfarandi þjóðaratkvæðagreiðslu um skoska þingið
, Rifkind greiddi atkvæði fyrir, en dró stuðning sinn til baka þegar niðurstaða þjóðaratkvæðagreiðslunnar sýndi Skotlandi nánast jafnt skipt yfir tillögunni.