Murray werd als vrije agent getekend door de Cleveland Indians op 2 december 1993. In het seizoen 1994 speelde hij in 108 wedstrijden en had een slaggemiddelde van.254 samen met 76 RBIs, 17 homeruns en 110 hits voordat het seizoen werd afgekort vanwege de staking. Het volgende jaar speelde hij in 113 wedstrijden met een slaggemiddelde van.323 voor 82 RBIs, 21 homeruns en 141 hits. Murray bereikte het 3.000-hit plateau als een Indian op 30 juni 1995 in het Hubert H. Humphrey Metrodome met een single naar rechts veld van Minnesota Twins pitcher Mike Trombley. In de 1995 American League Division Series, sloeg hij 5-voor-13 voor een.385 slaggemiddelde terwijl hij één homerun en 3 RBIs had toen ze de Boston Red Sox in drie wedstrijden versloegen. In de 1995 American League Championship Series
Hij sloeg 6 van 24 terwijl hij een homerun en 3 RBIs had... toen de Indians de Seattle Mariners versloegen... om door te gaan naar de World Series van 1995. In die serie, sloeg hij 2-voor-19 voor een.105 slaggemiddelde. Een van zijn hits was een single in de 11e inning van Game 3 van Alejandro Peña om Álvaro Espinoza te scoren en de Indians een cruciale overwinning te geven. Hij had nog twee RBIs en een homerun in Game 2 die twee runs opleverde. De Indians verloren echter in zes wedstrijden tegen de Atlanta Braves. Murray's seizoen 1996 werd gedeeld tussen twee teams, de Indians en de Orioles. Hij speelde in totaal 152 wedstrijden, sloeg voor.260 met 79 RBIs, 22 homeruns samen met 147 hits. Hij speelde in totaal 88 wedstrijden voor de Indians, sloeg voor.262 samen met 45 RBIs, 12 homeruns en 88 hits. De Indians ruilden Murray terug naar Baltimore op 21 juli 1996 voor pitcher Kent Mercker.