Cando a convención estatal se reuniu en abril de 1880, Randall estaba confiado na vitoria, pero pronto descubriu que a facción de Wallace era superior á súa. A maioría de Wallace alterou a organización do partido en Filadelfia e, aínda que algúns partidarios de Randall recibiron asentos, a maioría debía lealdade ao senador. A pesar da derrota, Randall continuou para Tilden, tanto en Pensilvania como noutros lugares. A medida que circularon rumores de que a saúde de Tilden non o permitiría volver a postularse, Randall permaneceu un home leal de Tilden ata a convención nacional.
Ese mes de xuño. Despois da primeira votación, a delegación de Nova York publicou unha carta de Tilden na que se retiraba da consideración. Randall esperaba que os ex-delegados de Tilden se unisen a el. Moitos o fixeron, e Randall subiu ao segundo lugar na segunda votación, pero o ímpetu cambiara a outro candidato, o xeneral Winfield Scott Hancock. Case todos os delegados cambiaron a favor de Hancock, e foi nomeado.