Gregg leidde het Cavalerie Korps van het Leger van de Potomac in het begin van 1864 tot de komst van generaal-majoor Philip Sheridan, die de cavalerie van de troepen van luitenant-generaal Ulysses S. Grant in de Overland Campagne leidde. Het belangrijkste gebruik van Gregg's cavalerie tijdens deze campagne was om de bewegingen van de Unie naar het zuiden te screenen, van slag tot slag, maar er werd een aanzienlijke inval georganiseerd die culmineerde in de Slag bij Yellow Tavern, waar J.E.B. Stuart dodelijk gewond werd, waardoor de Confederatie een harde slag werd toegebracht. Gregg's divisie was ook zwaar betrokken bij de Slag bij Haw's Shop.
, waar het vocht tegen Wade Hampton's troepen ten westen van Hanovertown, Virginia. Hampton had meer manschappen, maar Gregg's troepen hadden het Spencer herhalingsgeweer. Uiteindelijk viel Custer's brigade aan door moeilijk terrein, waardoor Hamptons mannen van hun positie werden verdreven.