Kun Welles sai sopimuksen RKO:n kanssa, Herrmann työskenteli hänelle. Hän kirjoitti ensimmäisen elokuvansa Citizen Kaneen (1941) ja sai
Oscar-ehdokkuus elokuvan parhaan sävelmään. Hän sävelsi Wellesin The Magnificent Ambersons -elokuvan (1942) musiikin. Kun yli puolet hänen musiikistaan poistettiin soundtrackista, Herrmann katkerasti katkaisi siteensä elokuvaan ja lupasi ryhtyä oikeustoimiin, jos hänen nimeään ei poistettaisi.