Rozehnal byrjaði feril sinn hjá SK Sigma Olomouc, þar sem frammistaða hans skilaði honum sæti í Tékklands U-21 lið. Árið 2003 skrifaði hann undir hjá belgíska félaginu Club Brugge. Árið 2004 lék Rozehnal fyrir Tékklandi á EM
Ūar sem liđiđ komst í undanúrslitin áđur en Grikkland lagđi ūađ út. Hann vann Belgíska bikarinn á fyrstu leiktíð sinni með Brugge og Belgíska deildina árið 2005. Hann skrifaði undir fyrir Paris Saint-Germain í júní 2005.