خلال أواخر الثمانينات، مع هبوط الاتحاد السوفييتي إلى الأزمة، أصبح شيفاردنادزه غير محبوب بشكل متزايد وكان في صراع مع المتشددين السوفييت الذين لم يعجبوا إصلاحاته وخطه الناعم مع الغرب. انتقد حملة القوات السوفيتية لسحق انتفاضة
في مسقط رأسه جورجيا عام 1989. احتجاجاً على النفوذ المتزايد للمتشددين تحت حكم غورباتشوف، استقال شيفاردنادزي فجأة في ديسمبر 1990، قائلاً: "الديكتاتورية قادمة". بعد بضعة أشهر، اتحققت مخاوفه جزئياً عندما فشل الانقلاب من قبل المتشددين الشيوعيين مما أدى إلى انهيار الاتحاد السوفيتي. عاد شيفاردنادزه لفترة وجيزة وزير الخارجية السوفييتي في نوفمبر 1991 لكنه استقال مع جورباتشوف الشهر التالي، عندما تم حل الاتحاد السوفييتي رسميا.