Baler valittiin demokraatiksi 58. kongressiin ja oli Yhdysvaltain edustaja New Yorkin kuudennesta piiristä 4. maaliskuuta 1903 - 3. maaliskuuta 1905. Hänen yksittäinen toimikautensa oli kiistanalainen, koska Baker pysyi uskollisena reformistiselle filosofialleen ja ansaitsi nopeasti lempinimen "No Pass" Baker, koska hän kieltäytyi maksuttomista rautatiepäivät, jotka B & O Railroad jakoi säännöllisesti lainsäätäjille. Hän oli pasifisti, ja esitti lakialoitteen, jolla lakkautettiin West Pointin sotilasakatemia ja tuomittiin "verinen sunnuntai".
Petterburgin verilöyly.