Hij was advocaat in Warm Springs, Virginia toen de Amerikaanse Burgeroorlog begon. Hij sloot zich aan bij het Verbonden Leger en werd in mei 1861 tot majoor van het 13e Virginia Infanterie Regiment gekozen. Hij werd kolonel van het regiment na de Slag bij Chancellorsville op 15 mei 1863. Op 30 mei 1864 werd hij gedood in de Slag bij Totopotomoy Creek.
of de Slag bij Bethesda Church, die onmiddellijk voorafging aan de Slag bij Cold Harbor tijdens de Overland Campagne. Terrill was al benoemd tot brigadegeneraal. De Senaat van de Confederatie bevestigde de benoeming op 31 mei 1864 postum, met ingang van 1 juni 1864.