Tevez először Argentínával vált ismertté, amikor a 2001-es FIFA U-17 Világbajnokságon játszott. A 2004-es Görögországi Olimpiai Játékokon aranyérmet nyert - Argentína első aranyérme 1952 óta - és hat meccsen nyolc gólt szerzett, hogy a verseny legjobb gólszerzője legyen. Ez magában foglalta a győztest a Paraguay elleni döntőben, kettőt a Szerbia és Montenegró 6-0-os csoportfázisú vereségében, és egy hattricket a Costa Rica elleni 4-0-os negyeddöntős győzelemben. Tevez Argentína vezető csapatát képviselte a 2004-es Copa América-ban.
, ahol a csapat eljutott a döntőbe, csak hogy elveszíthesse a rivális Brazíliát a büntetőmérkőzésen; mindkét előző fordulóban gólt szerzett. 2004-ben 16 góllal volt a világ második legjobb gólszerzője, egy góllal kevesebb, mint Ali Daei iráni támadó.