أكمل الجملة التالية: شيرمان تقاعد من الحياة العامة بعد استقالته من منصب وزير الخارجية. باستثناء يوم واحد، قضى شيرمان السنتين والأربعين والأربعة والأربعة وعشرين يومًا السابقة في الخدمة الحكومية. وقدم بضعة مقابلات فيهم اختلف مع سياسة الإدارة في ضم بورتوريكو و
الفلبين. في وقت لاحق من تلك السنة، أصيبت زوجته مارجريت بسكتة دماغية؛ ماتت بعد سنتين في 5 يونيو 1900. استمر شيرمان بالتناوب بين المنازل في مانسفيلد وواشنطن. بقي خارج السياسة في الغالب ، باستثناء رسالة كتبها تدعم جورج ك. ناش لحاكم أوهايو في عام 1899. توفي شيرمان في منزله في واشنطن في 22 أكتوبر 1900 ، بصحبة ابنته وأقارب وأصدقاءه. بعد جنازة في كنيسة سانت جون الأسقفية في واشنطن، دفن في مقبرة مدينة مانسفيلد مع زوجته.