Po skončení jeho funkčního období v roce 1865 se Armstrong přestěhoval do Clevelandu, koupil "The Plain Dealer" a vydával ho až do roku 1883. V roce 1868 svědčil na procesu o impeachmentu prezidenta Johnsona. Byl delegátem na Demokratické národní konvence v letech 1868, 1880
, a 1884.