Escriba unha continuación para este parágrafo - Sherman retirouse da vida pública despois de renunciar como Secretario de Estado. Agás por un día, Sherman pasara os anteriores 42 anos, 4 meses e 22 días no servizo do goberno. Deu algunhas entrevistas nas que non estaba de acordo coa política da administración de anexar Porto Rico e as Filipinas.
- Non. Máis tarde ese mesmo ano, a súa muller, Margaret, sufriu un derrame cerebral; morreu dous anos despois, o 5 de xuño de 1900. Sherman continuou alternando entre as casas de Mansfield e Washington. A maioría permaneceu fóra da política, agás unha carta que escribiu apoiando a George K. Nash como gobernador de Ohio en 1899. Sherman morreu na súa casa de Washington o 22 de outubro de 1900, na compañía da súa filla, parentes e amigos. Despois dun funeral na igrexa episcopal de San Xoán en Washington, foi enterrado no cemiterio de Mansfield City coa súa esposa.