A második orosz-török háború idején Rumjantsev gyanította, hogy Potemkin szándékosan csökkentette hadseregének ellátását, és azonnal lemondott a parancsnokságáról. A
A 1794-es lengyel hadjáratban ismét főparancsnoknak nevezték ki, de riválisának, Szúvorovnak sikerült a hadsereget a csatába vezetnie. Ebben az esetben Rumyantsev nem is fáradt, hogy elhagyja az ukrán birtokát Taszánban, amelyet erődítékre épített. 1796. december 19-én halt meg ott, egy hónappal Katalin halála után, és a kijevi Pechersk Lavrában temették el.