A Pirates amatőr szabadügynökként szerződtette Oliveret 2001-ben. 1968. szeptember 14-én lépett fel a főligába, aznap halt meg az apja, Al Oliver Sr. 4 meccsen játszott abban a szezonban. Hivatalos újonc szezonában Oliver.285-ös ütőértéket ért el 17 hazai futással és 70 futást vezetett, így második lett a Nemzeti Liga Év újonca szavazásában. A következő szezonban, 1970-ben, Oliver.270-et ütött, és ötödik volt az NL-ben hét áldozati repüléssel. A bajnokságban második lett a 14 alkalommal, amikor eltalálta a dobás (az előző évben 12 alkalommal, negyedik helyen végzett a bajnokságban). A Pirates megnyerte a National League East címet, ami az első utat jelentette a postseason-ba, mióta megnyerte az 1960-as World Series-t. De elvesztették a Cincinnati Reds ellen a
1970-es Nemzeti Bajnoki Sorozat.