Gibson es va involucrar en política com a membre del Partit Whig amb fortes opinions anti-esclavitud. Durant la campanya presidencial dels Estats Units de 1844, va fer discursos per Henry Clay a causa de la plataforma del Partit Whig que s'oposava a admetre Texas a la Unió perquè era un estat esclavista. En la campanya presidencial dels Estats Units de 1848, Gibson va donar suport al candidat Whig, "Rough and Ready" General Zachary Taylor. No obstant això, estava preocupat per la manca d'oposició del Partit Whig a l'abolició de l'esclavitud i va visitar personalment Henry Clay a la seva casa a Ashland, Kentucky, el 1848 per discutir aquest tema. Va perdre com a candidat Whig per al Fiscal General d'Ohio el 1853. El 1853, després de la gran derrota del candidat Whig General Winfield Scott a les eleccions presidencials dels Estats Units de 1852, Gibson va donar el seu suport al Partit del sòl lliure i va començar a organitzar el que es convertiria en el Partit Republicà a Ohio. Va assistir a la primera reunió de l'organització del Partit Republicà a la primavera de 1856 a Pittsburgh. Va ser un dels 69 delegats d'Ohio (d'un total de 600 delegats de tot el país) que van assistir a la primera Convenció Nacional Republicana
celebrada a Filadèlfia el juny de 1856. El 1856, es va presentar i va ser elegit com el primer republicà a ocupar el càrrec de Tresorer de l'Estat d'Ohio.