Během pozdních osmdesátých let, když se Sovětský svaz dostal do krize, se Ševardnadze stal stále nepopulárnějším a byl v konfliktu se sovětskými tvrdou linií, kterým se nelíbily jeho reformy a jeho měkká linie se Západem. Kritizoval kampaň sovětských vojáků k potlačení povstání.
v jeho rodné Gruzii v roce 1989. V prosinci 1990 Shevardnadze náhle odstoupil, aby protestoval proti rostoucímu vlivu tvrdé linie pod Gorbačovem, a řekl: "Diktatura přichází". O několik měsíců později se jeho obavy částečně uskutečnily, když neúspěšný převrat komunistických radikálů urychlil kolaps Sovětského svazu. Ševardnadze se krátce vrátil jako sovětský ministr zahraničí v listopadu 1991, ale odstoupil s Gorbačovem následující měsíc, když byl Sovětský svaz formálně rozpuštěn.