Peralta allekirjoitti 4. marraskuuta 2012 kaksivuotisen, 6 miljoonan dollarin sopimuksen, jossa on klubin vaihtoehdot vuosille 2015 ja 2016. Andrew Friedman, Raysin Baseball Operationsin johtava varapresidentti sanoi hänestä: "Rakastamme Joelin kilpailukykyä ja vaikutusta, jota hänellä on nuorempiin syöttäjiin". Hän teki uransa korkean 80 esiintymisen vuonna 2013, johtaen Majorsia ja asettaen klubin ennätyksen oikeakätiselle syöttäjälle ja kolmannelle peräkkäiselle 70-plus esiintymisjaksolle. Hän oli 3-8 3,41 ERA:lla. Hän heitti yhden pisteettömän erän vuoden 2013 American League Wild Card -pelissä.
Cleveland Indiansia vastaan ja pelasi kaksi ottelua pisteettömästi Boston Red Soxia vastaan. Peralta esiintyi 69 pelissä vuonna 2014 ja oli 3-4 4,41 ERA: llä.