Dum la malfruaj 1980-aj jaroj, kiam Sovet-Unio falis en krizon, Ŝevardnadze iĝis ĉiam pli nepopulara kaj estis en konflikto kun sovetiaj malmolaj linioj, kiuj malŝatis liajn reformojn kaj lian molan linion kun la Okcidento. Li kritikis kampanjon de sovetiaj trupoj por subpremi ribelon
en sia hejmlando Kartvelio en 1989. En protesto kontraŭ la kreskanta influo de ekstremistoj sub Gorbaĉov, Ŝevardnadze subite eksiĝis en decembro 1990, dirante, "Diktaturo venas". Kelkajn monatojn poste, liaj timoj estis parte realigitaj kiam malsukcesa puĉo de komunistaj ekstremuloj akcelis la kolapson de Sovet-Unio. Ŝevardnadze revenis nelonge kiel sovetia ministro pri eksterlandaj aferoj en novembro 1991 sed eksiĝis kun Gorbaĉov la sekvan monaton, kiam Sovet-Unio estis formale dissolvita.