1888 m. gegužę Sarmiento išvyko iš Argentinos į Paragvajų. Jį lydėjo jo dukra Ana ir jo draugė Aurelia Vélez. 1888 m. rugsėjo 11 d. jis mirė Asunciónas nuo širdies priepuolio ir buvo palaidotas Buenos Airėje. Jo kapavietė La Recoleta kapinėse yra po skulptūra, kondoras ant pilono, kurį sukūrė pats ir įvykdė Victor de Pol. Brazilijos imperatorius Pedro II, didelis Sarmiento gerbėjas, savo laidotuvių procesijai siuntė žalią ir auksinę gėlių karūną su ispanų kalba parašyta žinutė, primenanti jo gyvenimo svarbiausius momentus: "Civilizacija ir barbarizmas, Tonelero, Monte Caseros
, Petrópolis, Viešasis švietimas. "Pedro de Alcântaros atminimas ir pagyrimas".