Johanssonas savo profesionalų karjerą pradėjo Švedijos "Färjestad BK". 1991 m. NHL Drafte jis buvo išrinktas 136-toje vietoje Niujorko salų klubo.
1995-1996 m. NHL žaidė "Islanders" (1995-1996), "Pittsburgh Penguins" (1996-1998), "Ottawa Senators" (1998-1999), "Tampa Bay Lightning" (1999), "Calgary Flames" (1999-2000), "New York Rangers" (2001-2002) ir "Nashville Predators" (2002-2004). 2000-2001 m. Sezono metu jis žaidė Šveicarijos klube "SC Bern", o po 2003-2004 m. Sezono jis grįžo į Šveicariją, kur pasirašė sutartį su "Genève-Servette HC" ir su jais žaidė du sezonus. 2006-2007 m. grįžo į Färjestad. 2007 m. jis pasirašė sutartį su Rusijos Superligos komanda SKA Sankt Peterburge. Ten jis žaidė vieną sezoną, tačiau buvo pasirašytas kontraktas dvejiems sezonams (antrojo sezono jis nežaidė). 2009 m. Johanssonas pasirašė sutartį su "Leksands IF" iš "HockeyAllsvenskan". Tačiau jis sužaidė tik vieną rungtynes su Leksandu, o vėliau dėl sužalojimo paskelbė apie savo išėjimą į pensiją.