Hertz tuli tunnetuksi johtamalla Wagneria New Yorkin Metropolitan Operassa. Metin kirjastonhoitaja Lionel Mapleson nauhoitti kokeellisesti joitakin hänen johtamiansa esityksiä, jotka tunnetaan nykyisin nimellä Mapleson Cylinders ja julkaistiin myöhemmin LP: llä. Hän tuli San Franciscoon kapellimestariksi Metropolitain Operan kiertueella vuonna 1906 ja oli paikalla kun kaupunki tuhoutui
maanjäristys ja tulipalo.