Cuando la convención estatal se reunió en abril de 1880, Randall estaba seguro de la victoria, pero pronto descubrió que la facción de Wallace superaba en número a la suya. La mayoría de Wallace alteró la organización del partido en Filadelfia y, aunque algunos partidarios de Randall recibieron escaños, la mayoría le debía lealtad al senador. A pesar de la derrota, Randall presionó por Tilden, tanto en Pensilvania como en otros lugares. Mientras circulaban rumores de que la salud de Tilden le impediría volver a postularse, Randall siguió siendo un hombre leal a Tilden hasta el
la convención nacional en junio. Después de la primera votación, la delegación de Nueva York publicó una carta de Tilden en la que se retiró de la consideración. Randall esperaba que los ex delegados de Tilden se unieran a él. Muchos lo hicieron, y Randall subió al segundo lugar en la segunda votación, pero el impulso había cambiado a otro candidato, el mayor general Winfield Scott Hancock. Casi todos los delegados cambiaron a Hancock, y fue nominado.