Rösler az FDP alsó-szász állambeli titkára volt 2000 és 2004 között, és az FDP parlamenti csoportjának elnöke volt az alsó-szász államgyűlésben 2003-tól. 2001 és 2006 között Rösler volt a Hannoveri regionális tanács tagja, ahol a parlamenti csoport alelnöke is volt. 2005 májusában az FDP szövetségi ügyvezető bizottságának megfigyelőjévé választották. A szavazatok 95%-át kapta, ami a pártkonferencia legjobb eredménye volt. A 2006. márciusi állami pártkonferencián Rösler 96,4%-os szavazattal választották meg az alsó-szász FDP elnökévé; Walter Hirche-t váltotta meg, aki tizenkét év után lépett le az alsó-szász államgyűléstől. 2008 áprilisában Rösler megerősítették, hogy az alsó-szász liberálisok pártjának elnöke.
1992-ben