Voltooi de volgende zin: In 1898, ontdekte Rynning dat de oorlog met Spanje was begonnen en dat zijn oude vriend, kolonel Leonard Wood, een vrijwilligers cavalerie regiment oprichtte, dat later bekend werd als Theodore Roosevelt's Rough Riders. Hij werd soldaat en keerde terug als tweede luitenant in Troop B, 1st United States Volunteer Cavalry Regiment. Tijdens de
Rynning nam het bevel over de Amerikaanse lijn na de dood van kapitein Buckey O'Neill. Een paar minuten later leidde hij de Rough Riders naar Kettle Hill en was de eerste Amerikaan die de top bereikte. Onder hevig vuur van de nabijgelegen San Huan Hill, beval Rynning zijn mannen de vlag van het regiment te zwaaien om de anderen te verzamelen en het was tijdens deze tijd dat de vlag ernstig was geperst. De vlag wordt nu bewaard door het Departement van Bibliotheek en Archieven in het Capitool gebouw in Phoenix, Arizona. Daarna voegde Rynning zich bij Theodore Roosevelt in de aanval op San Juan Hill, die de strijd eindigde met een Amerikaanse overwinning.