A finals de 1905, Harry va deixar el trio després d'una discussió amb Jolson. Harry havia rebutjat la seva sol·licitud per cuidar Joe Palmer, que estava en cadira de rodes. Després de la sortida de Harry, Jolson i Palmer van treballar com a duo, però no van tenir particularment èxit. El 1906 van acordar separar-se, i Jolson es va quedar sol. Es va convertir en un habitual al Globe and Wigwam Theater de San Francisco i va tenir èxit a tot el país com a cantant de vaudeville. Es va instal·lar a San Francisco, dient que el terratrèmol
La gent devastada necessitava algú que els animés. El 1908, Jolson, necessitant diners per a ell i la seva nova esposa, Henrietta, va tornar a Nova York. El 1909, el seu cant va cridar l'atenció de Lew Dockstader, el productor i estrella de Dockstader's Minstrels. Jolson va acceptar l'oferta de Dockstader i es va convertir en un artista de cara negra.