Tevez werd voor het eerst bekend met Argentinië tijdens het spelen in het FIFA U-17-wereldkampioenschap van 2001. Op de Olympische Spelen van 2004 in Griekenland won hij de gouden medaille - de eerste van Argentinië in elk evenement sinds 1952 - en scoorde acht doelpunten in zes wedstrijden om de topscorer van de competitie te zijn. Dit omvatte de winnaar in de finale tegen Paraguay, twee in een 6<unk>0 groepsfase verslaan van Servië en Montenegro, en een hat-trick in een 4<unk>0 kwartfinale overwinning op Costa Rica. Tevez vertegenwoordigde het seniorenteam van Argentinië in de Copa América 2004
, waar het team de finale bereikte, maar verloor op strafschoppen van rivaal Brazilië; hij scoorde een doelpunt in beide voorgaande rondes. Hij was de op één na hoogste doelpuntenmaker van 2004 in de totale internationale competitie met 16 doelpunten, één minder dan de Iraanse aanvaller Ali Daei.