Rosenberg a szülővárosi klubjában, a Malmö FF-ben kezdte karrierjét, és az Allsvenskan legjobb dobója lett, miközben kölcsönben volt a Halmstads BK-nél a 2004-es szezonban. Rosenberg Allsvenskan sikere külföldi érdeklődést váltott ki, és végül Európa-szerte futballklubokban játszott, köztük a Werder Bremenben a német Bundesligában, az Ajaxban az Eredivisie-ben, a Racing de Santanderben a La Liga-ban és a West Bromwichben az angol Premier League-ben. Miután 2014-ben visszatért a Malmö FF-hez, Rosenberg számos kulcsfontosságú gólt szerzett a klub UEFA Bajnokok Ligájában, és segített a csapatnak megnyerni a bajnoki címet. A következő évben Rosenberg ismét kulcsfontosságú szerepet játszott abban, hogy a Malmö FF a Bajnokok Ligájában egymás után csoportos kvalifikációkat érjen el. 2016-ban még két egymást követő bajnoki cím megnyerésében is részt vett.
2017 és 2018 között, valamint a 2018/19 és 2019/20 UEFA Europa League csoportos szakaszát Malmö-vel. Második időszaka a Malmö FF-nél sikeresnek bizonyult, mivel a klub legnagyobb labdarúgójának nevezték ki a 21. században.