Þegar Wilson tilkynnti skyndilega eftirlaun sína í mars 1976 sigraði Callaghan fimm aðra frambjóðendur til að verða kjörinn leiðtogi Verkamannaflokksins; hann var ráðinn forsætisráðherra 5. apríl 1976. Þrátt fyrir að hafa unnið þröngan meirihluta í House of Commons í kosningunum árið 1974 hafði Verkamannaflokkurinn tapað þessum meirihluta þegar Callaghan varð forsætisráðherra, og nokkrir ósigur í viðbótarkosningum og frávik í fyrstu mánuðum hans neyddu Callaghan til að gera trúnaðar- og framboðssamning við Frjálslyndisflokkinn. Þótt þetta hafi í upphafi reynst stöðugt, í kjölfar mikillar atvinnudeilum og víðtækra verkfalla í "Vinter óánægju" 1978-1979 og ósigur þjóðaratkvæðagreiðslunnar um framsal fyrir Skotlandi
, leiddi til þess að minni flokkar gengu í hóp við íhaldsmenn til að samþykkja vantraust á Callaghan 28. mars 1979. Þrátt fyrir að vera vinsæll í skoðanakönnunum leiddi Callaghan Verkamannaflokkinn til ósigurs í kosningunum 1979 og var skipt út fyrir Margaret Thatcher.