Unser hizo su debut en IndyCar en 1962 (excluyendo las carreras de Pikes Peak que formaban parte de la temporada de IndyCar en la década de 1950). Corrió para Andy Granatelli entre 1963 y 1965 con un motor Novi. Unser compitió en su primera Indianapolis 500 en 1963. Se estrelló temprano y quedó en el puesto 33. La segunda carrera de Unser en las 500 Millas de Indianápolis en 1964
terminó en la segunda vuelta en el accidente que mató a Eddie Sachs y Dave MacDonald. Unser se trasladó a una IndyCar propiedad de Bob Willke desde 1966 hasta 1970. Su primera victoria en IndyCar fue en 1967 en Mosport, en Ontario. Un año más tarde, Unser ganó su primera Indianapolis 500, estableciendo el récord como el primer piloto en correr más de 170 millas por hora en Indianapolis. En 1968, Unser trabajó con el jefe de equipo Jud Phillips y ganó su primer Campeonato Nacional de Conducción USAC con victorias en Stardust International Raceway, Phoenix Raceway, Trenton Speedway, Indy y el Pikes Peak Hill Climb.