Elektita kiel demokrato al la Kvindek-oka Kongreso, Baler estis usona reprezentanto por la sesa distrikto de Novjorko de la 4-a de marto 1903 ĝis la 3-a de marto 1905. Lia ununura oficperiodo estis markita per konflikto kiam Baker restis fidela al sia reformisma filozofio, kaj rapide gajnis la moknomon "No Pass" Baker por malkreski la liberajn fervojajn pasejojn, kiuj tiam estis regule donitaj al leĝdonantoj de la B & O-Fervojo. Pacifisto, li enkondukis leĝaron por dissolvi la Militakademion de Usono en West Point kaj alian decidproponon kondamnantan la "Sangan dimanĉon"
la masakro en Sankta Peterburgo, Rusio.