1861-ben, a polgárháború kezdetén, a New York-i Nemzeti Gárda parancsnoka, John F. Rathbone ezredes kinevezte, hogy Albany-i raktárban szolgáljon főorvosként. 1862. júniusában, a Savage's Station csata után
A Potomac hadsereg és az orvosai visszavonultak, Swinburne maradt, hogy gondoskodjon a több ezer sebesült fogolyról, mind az Unió, mind a Konföderáció. Elvi álláspontját tiszteletben tartva Stonewall Jackson konföderációs parancsnok engedélyt adott neki, egy kísérő személyes megjegyzéssel, amely megengedte, hogy meglátogassa az uniós foglyokat. 1864-ben Horatio Seymour kormányzó kinevezte a New York-i kikötő egészségügyi tisztje posztjára, és 1867-ben Reuben Fenton kormányzó újra kinevezte, összesen hat évig, 1870-ig. Igazgatása alatt, annak ellenére, hogy az állami törvényhozó nem volt hajlandó finanszírozást biztosítani, felügyelte a szigeteken az akkori legmodernebb karantén létesítmények építését, amelyeket Swinburne és Hoffman néven neveztek el.