Toen de staatsconventie in april 1880 bijeenkwam, was Randall zeker van de overwinning, maar ontdekte al snel dat de Wallace-fractie groter was dan hij. Wallace's meerderheid verstoorde de partijorganisatie in Philadelphia en hoewel sommige Randall-aanhangers zetels kregen, was de meerderheid trouw aan de senator. Ondanks de nederlaag ging Randall door voor Tilden, zowel in Pennsylvania als elders. Terwijl geruchten rondgingen dat Tilden's gezondheid hem zou weerhouden van het lopen, Randall bleef een loyale Tilden man tot de nationale conventie
die juni. Na de eerste stemming, de New York delegatie vrijgegeven een brief van Tilden waarin hij zich terugtrok uit overweging. Randall hoopte dat de ex-Tilden afgevaardigden zich bij hem zouden verenigen. Velen deden dat, en Randall kwam op de tweede plaats bij de tweede stemming, maar het momentum was verschoven naar een andere kandidaat, generaal-majoor Winfield Scott Hancock. Bijna alle afgevaardigden gingen voor Hancock en hij werd genomineerd.