1996-ban Johnson visszatért Baltimore-ba, mint az Orioles menedzsere, hároméves, 2,25 millió dolláros szerződéssel. Az Orioles az előző évben 71-73-as eredményt ért el, de a csapat ígéretes tehetségekkel rendelkezett Cal Ripken, Jr., Mike Mussina, Eddie Murray és Roberto Alomar jövőbeli Hall of Famers tagjaival. A csapat 88-74-es eredményt ért el, és négy meccsen a New York Yankees mögött a keleti AL-ben, de elég jó volt a Wild Card-ra három meccsel. Ez volt az Orioles első útja a posztsezonba, mióta megnyerték az 1983-as világbajnokságot. Az Orioles találkozott a Cleveland Indians-szal a Divíziós Sorozatban, az American League védő bajnoka, aki 99 meccset nyert, a legjobb a főszereplőkben abban a szezonban. Az Orioles megnyerte az első két meccset, mielőtt Cleveland megnyerte a negyedik meccset, és egy menetre voltak attól, hogy megnyerjenek egy másik meccset, mielőtt az Orioles egy Alomar két kiütéses RBI-vel gyűlt össze, és ő vezetett a 12-ikben egy hazafutással, ami Baltimore-t a bajnoki sorozatba juttatta.
A New York Yankees ellen. Az Orioles az első meccsben 14-3-ra vezetett a hetedik fordulóban, mielőtt Derek Jeter egy fly ball-ját illegálisan átkapta a kerítésen a rajongó, Jeffrey Maier, Tony Tarasco kezénél, ami megegyeztette a mérkőzést. A Yankees megnyerte a játékot a tizenegyedik inningben, és míg az Orioles visszanyerte a győzelmet a második játékban, a Yankees megnyerte a következő hármat; a harmadik játékban az Orioles vezetett a nyolcadik menetben, amely a 2-1-es vezetést 5-2-es veszteséggé változtatta, míg a Yankees három futást szerzett a nyolcadikban a negyedik játékban, hogy megnyissa a 8-4-es döntést, míg az ötödik játékban a Yankees összes futást szerzett, amire szükségük volt a harmadik menetben a 6-4-es döntő mérkőzéshez.