W czasie II wojny rosyjsko-tureckiej Rumjancjow podejrzewał Potemkina o celowe ograniczanie zaopatrzenia armii i natychmiast zrezygnował z dowodzenia. W
Podczas polskiej kampanii w 1794 roku ponownie został mianowany naczelnym dowódcą, ale jego rywal Suworov rzeczywiście poprowadził armie do bitwy. Przy tej okazji Rumjantsew nawet nie zmartwił się opuszczeniem swojej ukraińskiej posiadłości w Tashan, którą przebudował w twierdzę. Zmarł tam 19 grudnia 1796 roku, nieco ponad miesiąc po śmierci Katarzyny, i został pochowany w kijowskiej Pechersk Lawrze.