Rowley serviu como coronel da 13a Infantería de Pensilvania do 25 de abril de 1861 ao 6 de agosto do mesmo ano. Despois converteuse en coronel do 102o Regimiento de Infantería Voluntaria de Pensilvania. Foi ferido na batalla de Seven Pines.
, mentres lideraba o seu rexemento no Exército do Potomac. Dirixiu (brevemente) unha brigada no VI Corpo na Batalla de Fredericksburg. Promovido a xeneral de brigada a partir do 29 de novembro de 1862, Rowley despois comandou unha brigada do I Corpo na Batalla de Chancellorsville. Foi comandante interino da 3a División, I Corpo no comezo da Batalla de Gettysburg, mentres que o xeneral Abner Doubleday era comandante interino do corpo. (Chapman Biddle liderou a brigada de Rowley.) O 1 de xullo de 1863, a brigada sufriu grandes baixas ao enfrontarse aos confederados da división do xeneral Harry Heth. Foi botado do seu cabalo durante a retirada cando parou no arroio. Enfermo de infección por furúnculos do tamaño de ovos de galiña nas súas coxas internas, estaba febril e temperamental. Despois dun enfrontamento entre Rowley e o xeneral de brigada Lysander Cutler sobre a conduta dalgúns dos oficiais do 7o Wisconsin, Cutler presentou cargos de borrachera en abril de 1864. Con menos de 24 horas para preparar a defensa para o xuízo, Rowley foi condenado por un tribunal marcial que o autor John F. Krumwiede afirma que era, "falto de imparcialidade e marchando ao seu propio tambor". Aínda que foi reintegrado por orde do Secretario de Guerra Edwin M. Stanton e o presidente Abraham Lincoln, Rowley foi asignado só un comando de distrito no oeste de Pensilvania, debido á disputa entre o comandante do exército, o xeneral George G. Meade, e o agora comandante do corpo, o xeneral Gouverneur K. Warren. Bloqueado polas accións do xeneral Darius N. Couch no intento de deter a invasión de Pensilvania en 1864 do xeneral confederado Jubal Early, renunciou á súa comisión o 29 de decembro de 1864.