Keď sa v apríli 1880 stretol štátny kongres, Randall si bol istý víťazstvom, ale čoskoro zistil, že Wallaceova frakcia je početne väčšia. Wallaceova väčšina zničila organizáciu strany vo Philadelphii a hoci niektorí Randallovi priaznivci získali miesta, väčšina dlžila senátorovi vernosť. Napriek porážke, Randall pokračoval v Tildenovi, v Pensylvánii aj inde. Ako sa šírili zvesti, že Tildenovo zdravie mu zabráni znovu kandidovať, Randall zostal Tildenovým verným mužom až do národného zjazdu.
v júni. Po prvom hlasovaní delegácia z New Yorku zverejnila Tildenov list, v ktorom sa stiahol z hlasovania. Randall dúfal, že sa k nemu spoja bývalí delegáti z Tildenu. Mnohí to urobili, a Randall sa dostal na druhé miesto v druhom hlasovaní, ale momentum sa posunulo na iného kandidáta, generála majora Winfielda Scotta Hancocka. Takmer všetci delegáti sa presunuli na Hancocka a on bol nominovaný.