Williamson herstelde op tijd om deel te nemen aan de Vicksburg-campagne en het volgende beleg van Vicksburg. Na de val van de stad, nam hij het bevel over de 3e Brigade, 1e Divisie, XV Korps tot september 1863 en gaf vervolgens het bevel over de 2e Brigade, 1e Divisie, XV Korps in de Slag bij Chattanooga. Williamson's divisie, onder bevel van Peter J. Osterhaus, werd tijdelijk toegevoegd aan de troepen onder Joseph Hooker en nam deel aan de Slag bij Lookout Mountain
Ik weet het. De divisie werd teruggegeven aan het Army of the Tennessee en Williamson leidde de 2e Brigade tijdens de Atlanta-campagne. In de Slag bij Jonesborough werd hij gewond in de hand. Op 19 december 1864 kreeg hij een brevetpromotie tot brigadier-generaal van de Amerikaanse vrijwilligers, op 13 januari 1865 een volledige promotie tot brigadier-generaal en op 13 maart 1865 een brevetpromotie tot majoor-generaal van vrijwilligers. Tijdens de zomer van 1865 gaf hij kort het bevel over het district St. Louis en werd op 24 augustus 1865 uit de vrijwilligersdienst gehaald, maar was op een inspectie van legerposten in het Westen en kwam er pas achter toen hij in oktober 1865 terugkeerde.