Durante a década de 1980, cando a Unión Soviética caeu en crise, Shevardnadze tornou-se cada vez máis impopular e estaba en conflito cos soviéticos de liña dura que non lles gustaban as súas reformas e a súa liña suave con Occidente. Criticou unha campaña das tropas soviéticas para reprimir unha sublevación
na súa Georgia natal en 1989. En protesta pola crecente influencia dos radicais baixo Gorbachov, Shevardnadze dimitiu repentinamente en decembro de 1990, dicindo: "Está chegando a ditadura". Algúns meses despois, os seus temores foron parcialmente realizados cando un golpe de estado fracasado por comunistas de liña dura precipitou o colapso da Unión Soviética. Shevardnadze volveu brevemente como Ministro de Asuntos Exteriores soviético en novembro de 1991, pero renunciou con Gorbachov o mes seguinte, cando a Unión Soviética foi formalmente disuelta.