Rosenberg aloitti uransa kotikaupunginsa Malmö FF:ssä ja tuli Allsvenskanin kärkipelaajaksi lainaajana Halmstads BK:lle kauden 2004 aikana. Rosenbergin Allsvenskan-menestys herätti kiinnostusta ulkomailta, ja lopulta hän pääsi pelaamaan eri puolilla Eurooppaa, mm. Werder Bremenissä Saksan Bundesligassa, Ajaxissa Eredivisiessa, Racing de Santanderissa La Ligassa ja West Bromwichissa Englannin Premier League -sarjassa. Palattuaan Malmö FF:ään vuonna 2014 Rosenberg teki useita tärkeitä maalia klubin UEFA-mestaruussarjassa ja auttoi joukkuetta voittamaan liigan. Seuraavana vuonna Rosenberg pelasi jälleen keskeistä roolia turvatessaan Malmö FF:n peräkkäiset ryhmävaiheet Mestarien liigassa. Hän oli mukana voittamassa myös kaksi perättäistä liigan titteliä vuonna 2016.
Hän on myös voittanut UEFA Europa League -turnaukset 2018-19 ja 2019-20 Malmön kanssa. Hänen toinen uransa Malmö FF:ssä osoittautui menestyksekkääksi, sillä hänet nimitettiin klubin parhaaksi jalkapalloilijaksi 2000-luvulla.