Tíz éves korától zenei tanulmányait Bécsben folytatta és 1904-ben a párizsi Conservatoire-on fejezte be. Koncertező hegedűművészként - szólistaként és kamarazenészként egyaránt - világhírre tett szert. Mellette pedagógusként is kiemelkedő tevékenységet folytatott. Volt az amszterdami konzervatórium, a berlini zeneakadémia és a philadelphiai Curtis Institut professzora. Legjelentősebb zenepedagógiai művét, A hegedűjáték művészete című kétkötetes munkát az 1920-as években írta. Számos kiváló tanítványa volt, a legismertebb név talán Henryk Szeryng. Élete utolsó időszakát rendkívüli módon megkeserítette az erősödő antiszemitizmus. 1943-ban - sok nehézség után - az ő és családja személyes sorsa rendeződni látszott: a luzerni konzervatórium tanára lett, ám a következő évben szívrohamban elhunyt.