Kiedy konwencja stanowa zebrała się w kwietniu 1880, Randall był pewny zwycięstwa, ale wkrótce odkrył, że frakcja Wallace'a przewyższała jego. Większość Wallace'a zakłóciła organizację partii w Filadelfii i chociaż niektórzy zwolennicy Randalla otrzymali miejsca, większość była lojalna wobec senatora. Pomimo porażki, Randall naciskał na Tilden, zarówno w Pensylwanii, jak i gdzie indziej. Krążyły pogłoski, że zdrowie Tildena uniemożliwi mu ponowne ubieganie się o wybory, ale Randall pozostał lojalnym członkiem zespołu aż do konwencji.
W czerwcu. Po pierwszym głosowaniu, delegacja z Nowego Jorku opublikowała list od Tildena, w którym wycofał się z rozważania. Randall miał nadzieję, że były delegat z Tilden przyłączy się do niego. Wielu tak zrobiło, a Randall awansował na drugie miejsce w drugim głosowaniu, ale momentum przesunęło się do innego kandydata, generała majora Winfielda Scotta Hancocka. Prawie wszyscy delegaci wybrali Hancocka, a on został nominowany.