Az új Juventus-edző, Antonio Conte érkezésével Barzagli a Juventus hátsó csapatának szerves részévé vált, és a klub egyik leginkább következetes előadója volt, ami a nemzeti csapat visszahívásával végződött. A Juventus befejezte a 2011-12 szezont.
A legjobb védőcsapat Olaszországban és Európában, 38 meccsen csak 20 gólt kapott. Barzagli 2012. május 13-án szerzett első gólját a Juventusnál, amikor büntetőütést kapott az Atalanta ellen a szezon utolsó bajnoki mérkőzésében, 3-1 hazai győzelemben. Segített a Juventusnak megnyerni a 2011-12 scudettót veretlenül, és a 2012-es Supercoppa Italiana-t; a Juventus szintén a Coppa Italia döntőjébe jutott abban a szezonban. A csillagos szezonja miatt bekerült az Év Serie A csapatába. A szezon végén megújította a szerződését a Juventusszal 2015-ig.