Longstreet jelentős mértékben hozzájárult a Konföderáció számos fontos győzelméhez, többnyire a keleti csatatéren, mint Robert E. Lee egyik fő alárendeltje az Észak-Virginiai Hadseregben. Rosszul teljesített a
Seven Pines véletlenül rossz úton vezette az embereit, ami miatt késve érkeztek, de fontos szerepet játszott a Konföderáció sikereiben a Hétnapos csatákban 1862 nyarán, ahol segített felügyelni az ismételt támadásokat, amelyek elűzték az uniós hadsereget a konföderációs fővárostól, Richmondtól. Longstreet egy pusztító ellentámadást vezetett, amely augusztusban a második Bull Run-i csatában megsemmisítette az uniós hadsereget. Az emberei az Antietam és Fredericksburg védekező pozícióiban tartották a helyüket. Nem vett részt a Chancellorsville-i konföderációs győzelemben, mivel ő és a legtöbb katonája a viszonylag kisebb Suffolk-i ostromban volt. Longstreet legvitatottabb szolgálata a Gettysburg-i csata volt 1863. júliusában, ahol nyíltan nem értett egyet Lee tábornokkal a taktika alkalmazásával kapcsolatban, és vonakodva felügyelte több sikertelen támadást az uniós erők ellen. Ezt követően Longstreet saját kérésére a nyugati csatatérre küldték, hogy Braxton Bragg parancsnoksága alatt harcoljon. Később a Knoxville-i hadjárat során a fél-autonóm parancsnokságban végzett teljesítménye konföderációs vereséget eredményezett. Longstreet nyugati színházban töltött idejét a konföderációs tábornokok közötti számos konfliktusban játszott központi szerepe rontotta. Longstreet és emberei elégedetlenek voltak Bragg alatt, ezért visszaküldték őket Lee-hez. 1864-ben, a vadon csatáján ügyesen vezényelte a csapatokat, ahol baráti lövöldözés során súlyosan megsebesült. Később visszatért a harcmezőre, Lee parancsnoksága alatt szolgált a Petersburg ostromában és az Appomattox hadjáratban.