S příchodem Antonio Conte jako nového trenéra Juventusu se Barzagli stal nedílnou součástí zálohy Juventusu a byl jedním z nejvíce konzistentních hráčů klubu, což vyvrcholilo odvoláním do národního týmu. Juventus zakončil sezónu 2011/12 s nejlepší obranou v Itálii a v Evropě, přičemž ve 38 zápasech připustil pouze 20 gólů. Barzagli vstřelil svůj první gól za Juventus 13. května 2012, když v posledním ligovém zápase sezóny v domácím vítězství 3×1 vstřelil trest proti Atalante. Pomohl Juventusu vyhrát scudetto 2011/12 neporažený, a 2012
Supercoppa Italiana; Juventus se také v té sezóně dostal do finále Coppa Italia. Jeho hvězdná sezóna mu získala místo v týmu Serie A roku. Na konci sezóny obnovil svou smlouvu s Juventusem do roku 2015.