Vuonna 1905 Harry jätti trion riidan jälkeen Jolsonin kanssa. Harry oli kieltäytynyt huolehtimasta Joe Palmerista, joka oli pyörätuolissa. Harryn lähdön jälkeen Jolson ja Palmer työskentelivät duonena, mutta eivät olleet erityisen menestyksekkäitä. Vuonna 1906 he päättivät erota, ja Jolson oli yksin. Hänestä tuli säännöllinen Globe and Wigwam -teatterissa San Franciscossa ja menestyi valtakunnallisesti vaudeville-laulajana. Hän asui San Franciscossa.
- Tuhoutuneet ihmiset tarvitsivat jonkun piristämään heitä. Vuonna 1908 Jolson, joka tarvitsi rahaa itselleen ja uudelle vaimolleen Henriettalle, palasi New Yorkiin. Vuonna 1909 hänen laulamisensa herätti Lew Dockstaderin, Dockstaderin Minstrellit -yhtyeen tuottajan ja tähden huomion. Jolson hyväksyi Dockstaderin tarjouksen ja ryhtyi blackface-esittäjäksi.