כתוב המשך לקטע זה - בשנת 1863, הסוללה של אלדר הוקצה לחטיבת ארטילריה הסוסים של ארצות הברית, שם שירת במשך רוב שאר המלחמה. הוא קיבל קידום קבוע לקפטן ב-1 באוגוסט 1863. הוא הועבר לתקופה קצרה בפברואר 1864, וזכה להצטיינות על גבורה בקרב אולסטי בפלורידה, וזכה לקידום רב סרן. כשחזר לארטילריה הסוסית, הוא הוזכר שוב על פעולותיו בדריוס בלף.
, 5 במאי 1864, והפך לסגן קולונל. הוא נשאר בצבא לאחר המלחמה, וקידמו אותו למייג'ור בחטיבת ארטילריה השנייה של ארצות הברית, ב-30 ביוני 1882.