Rosenberg memulai karirnya di klub kampung halaman Malmö FF dan menjadi pencetak gol terbanyak Allsvenskan saat dipinjamkan di Halmstads BK selama musim 2004. Keberhasilan Rosenberg di Allsvenskan menarik minat dari luar negeri, dan akhirnya ia bermain untuk klub sepak bola di seluruh Eropa, termasuk Werder Bremen di Bundesliga Jerman, Ajax di Eredivisie, Racing de Santander di La Liga, dan West Bromwich di Liga Premier Inggris. Setelah kembali ke Malmö FF pada tahun 2014, Rosenberg mencetak beberapa gol penting di Liga Champions dan membantu tim memenangkan gelar liga. Tahun berikutnya, Rosenberg sekali lagi memainkan peran penting dalam mengamankan kualifikasi babak penyisihan grup berturut-turut untuk Malmö FF di Liga Champions. Dia juga terlibat dalam memenangkan dua gelar liga berturut-turut pada tahun 2016
dan 2017, serta maju melewati 2018<unk>19 dan 2019<unk>20 UEFA Europa League tahap grup dengan Malmö. Periode kedua di Malmö FF terbukti sukses, karena ia dinobatkan sebagai pemain sepak bola terbesar klub di abad ke-21.