Pärast erustumist otsustas Laidoner end poliitiliselt siduda Põllumeeste Kogudega. Nende liikmena oli ta aastatel 1921-1929 kolme Riigikogu koosseisu liige. Mitu korda valiti ta ka riigikaitse-, välis- ja rahanduskomisjoni esimeheks. Samuti juhtis ta nendel aastatel Eesti delegatsiooni Rahvasteliidu täiskogu istungitel ja osales ka selases relvastuse vähendamise komisjonis. Samuti esindas ta Eestit sõjariistadega kauplemise üle kontrolli kehtestamise konverentsil (1925) ja  ülemaailmsel desarmeerimiskonverentsil (1932-1934). Laidoneri tegevus ulatus neil aastatel kohati ka Eestist päris kaugele: 1925. aastal oli ta Rahvasteliidu komisjoni juhiks, mis määras kindlaks Türgi ja Iraagi piiri. Tema soovitusel jäeti Mosuli linn Iraagile. 1929. aastal otsustas Laidoner aga poliitikast loobuda, väites, et ta ei armasta teha tööd, kus pole näha tagajärge või kus see koguni eitav on.