Rosenberg comezou a súa carreira no Malmö FF e converteuse no máximo goleador da Allsvenskan mentres estaba prestado no Halmstads BK durante a tempada 2004. O éxito de Rosenberg na Allsvenskan atraeu o interese do estranxeiro, e finalmente terminou xogando para clubs de fútbol de toda Europa, incluíndo Werder Bremen na Bundesliga alemá, Ajax na Eredivisie, Racing de Santander na La Liga e West Bromwich na Premier League inglesa. Despois de volver ao Malmö FF en 2014, Rosenberg marcou varios goles clave na carreira do club na UEFA Champions League e axudou ao equipo a gañar o título da liga. O ano seguinte, Rosenberg volveu desempeñar un papel fundamental na consecutiva clasificación da fase de grupos para o Malmö FF na Liga de Campións. Tamén participou na conquista de dous títulos consecutivos de liga en 2016.
e 2017, así como avanzar máis aló dos niveis de fase de grupos da UEFA Europa League 2018-19 e 2019-20 con Malmö. A súa segunda etapa no Malmö FF resultou exitosa, xa que foi nomeado o mellor futbolista do club no século XXI.