Tevez varð fyrst þekktur með Argentínu þegar hann lék í heimsmeistaramótinu fyrir U-17 árið 2001. Á Ólympíuleikunum 2004 í Grikklandi vann hann gullverðlaun - fyrsta gullverðlaun Argentínu síðan 1952 - og skoraði átta mörk í sex leikjum til að vera markahæsti leikmaður keppninnar. Þar á meðal var sigurvegari í úrslitakeppninni gegn Paragvæ, tveir í 6<unk>0 úrslitum Serbíu og Montenegro í riðlakeppninni og hat-trick í 4<unk>0 úrslitakeppninni gegn Kosta Ríka. Tevez var fulltrúi eldri landsliðs Argentínu í Copa América 2004
, þar sem liðið komst í úrslitaleikinn, en tapaði fyrir keppinautum Brasilíu á vítaspyrnum; hann skoraði mark í báðum fyrri umferðum. Hann var annar markahæsti markmaður heims árið 2004 í alþjóðlegum keppnum með 16 mörk, einu færri en Ali Daei frá Íran.