Escriu una continuació per a aquest paràgraf - En els Jocs Olímpics d'estiu de 2012 a Londres, Grevers va guanyar un total de tres medalles: dues d'or i una de plata. Grevers va guanyar la seva primera medalla, una de plata, nadant per a l'equip dels Estats Units que va ocupar el segon lloc en les proves preliminares del releu de 4×100 metres d'estil lliure. A la final, l'equip americà va acabar segon darrere de França. En equip amb Jimmy Feigen, Ricky Berens, i Jason Lezak en les proves, Grevers va nadar la segona etapa i va registrar un temps de 47.59. Després de liderar els cicles (52.92) i les semifinals (52.66) dels 100 metres a l'esquena
Grevers va guanyar l'or en la final dels 100 metres dorsal amb un temps de 52,16, millorant el rècord olímpic d'Aaron Peirsol de 52,54 establert el 2008 i 0,76 segons per davant de Nick Thoman. Per a Grevers, va ser la seva primera medalla d'or individual. En la seva última prova, el releu de 4×100 metres, Grevers va guanyar l'or amb Brendan Hansen, Michael Phelps i Nathan Adrian. En nadar la curva dorsal, Grevers va registrar un temps de 52.58 segons, i l'equip dels Estats Units va guanyar amb un temps de 3:29.35.