Olimpiade Musim Panas 2012 dimulai dengan Cochrane berkompetisi pada hari pertama kompetisi dalam gaya bebas 400 meter. Di sana Cochrane memenangkan heat-nya dan lolos ke final di posisi terakhir. Namun, setelah diskualifikasi Park Tae-hwan dibatalkan, Cochrane terdorong keluar dari final dan melewatkan berenang di dalamnya dengan 1/100 detik. Dia selanjutnya memasuki acara tanda tangannya 1500-meter
di mana ia lolos melalui panas di tempat ketiga. Di final Cochrane berhasil mengalahkan Oussama Mellouli untuk medali perak dan mencapainya dalam waktu terbaik pribadi. Dengan medali kedua di Olimpiade kedua berturut-turut, menurut media seperti CBC ini memperkuat Cochrane sebagai atlet pilar Kanada untuk membangun tim renang di sekitar untuk masa depan saat ia menyatakan bahwa ia akan mencoba dan berenang untuk Kanada di Olimpiade Musim Panas 2016 di Rio de Janeiro.