En maio de 1888, Sarmiento deixou Arxentina para o Paraguai. Acompañado pola súa filla, Ana, e a súa compañeira Aurelia Vélez. Morreu en Asunción o 11 de setembro de 1888 por un ataque cardíaco, e foi enterrado en Buenos Aires. A súa tumba no cemiterio de La Recoleta atópase baixo unha escultura, un cóndor sobre un pilón, deseñado por el mesmo e executado por Víctor de Pol. Pedro II, o Emperador de Brasil e gran admirador de Sarmiento, enviou á súa procesión fúnebre unha coroa de flores verde e dourada cunha mensaxe escrita en español recordando os momentos destacados da súa vida: "Civilización e barbarie, Tonelero, Monte Caseros
Petrópolis, Educación Pública. Memoria e homenaxe de Pedro de Alcântara".