W 1898 roku Rynning odkrył, że wojna z Hiszpanią się rozpoczęła i że jego stary przyjaciel, pułkownik Leonard Wood, tworzył ochotniczy pułk kawalerii, który później stał się znany jako Rough Riders Theodore Roosevelta. Wstąpił do wojska jako szeregowy i wrócił z wojny jako drugi porucznik w oddziale B, 1st United States Volunteer Cavalry Regiment. Podczas bitwy pod San Juan Heights
Rynning przejął dowództwo linii amerykańskiej po śmierci kapitana Buckey'a O'Neilla. Kilka minut później poprowadził Rough Riders na Kettle Hill i był pierwszym Amerykaninem, który osiągnął szczyt. Pod ostrzałem z pobliskiego wzgórza San Huan, Rynning rozkazał swoim ludziom machać flagą pułku, aby zgromadzić innych. Flaga jest obecnie przechowywana przez Departament Biblioteki i Archiwów w budynku stolicy stanu w Phoenix w Arizonie. Rynning dołączył do Theodore'a Roosevelta w ataku na San Juan Hill, który zakończył bitwę amerykańskim zwycięstwem.