Rozehnal aloitti uransa SK Sigma Olomoucissa, jossa hänen esiintymisensä ansaitsi hänelle paikan Tšekin alle 21-vuotiaiden joukkueessa. Vuonna 2003 hän allekirjoitti sopimuksen Belgian klubin Club Bruggen kanssa. Vuonna 2004 Rozehnal pelasi Tšekin puolella Euroopan mestaruuskilpailussa.
Joukkue pääsi semifinaaliin, mutta Kreikka tyrmäsi sen. Hän voitti Belgian Cupin ensimmäisellä kaudellaan Bruggen kanssa ja Belgian liigan vuonna 2005. Hän allekirjoitti sopimuksen Paris Saint-Germainin kanssa kesäkuussa 2005.