Escriu una continuació d'aquest paràgraf - Sherman es va retirar de la vida pública després de dimitir com a Secretari d'Estat. Excepte per un dia, Sherman havia passat els quaranta-dos anys anteriors, quatre mesos i vint-i-dos dies al servei del govern. Va donar algunes entrevistes en les quals no estava d'acord amb la política de l'administració d'annexar Puerto Rico i les Filipines.
- No. Més tard aquell mateix any, la seva dona, Margaret, va patir un atac cerebral i va morir dos anys més tard, el 5 de juny de 1900. Sherman va continuar alternant entre les cases de Mansfield i Washington. En la seva majoria es va mantenir fora de la política, excepte per una carta que va escriure donant suport a George K. Nash per a governador d'Ohio el 1899. Sherman va morir a la seva casa de Washington el 22 d'octubre de 1900, en companyia de la seva filla, familiars i amics. Després d'un funeral a l'església episcopal de St. John a Washington, va ser enterrat al cementiri de Mansfield City amb la seva dona.