Í lok 1905, yfirgaf Harry þríeininguna eftir deilur við Jolson. Harry hafnaði beiðni hans um að sjá um Joe Palmer, sem var í hjólastól. Eftir að Harry fór, unnu Jolson og Palmer sem dúó en náðu ekki sérlega góðum árangri. Árið 1906 samþykktu þeir að skilja og Jolson var einn. Hann fór reglulega í Globe og Wigwam leikhúsinu í San Francisco og var vel heppnaður á landsvísu sem vaudeville söngvari. Hann tók búsetu í San Francisco, segja
Fólki sem var eyðilagt af jarðskjálftunum vantaði einhvern til að gleðja það upp. Árið 1908 sneri Jolson aftur til New York þar sem hann þurfti peninga fyrir sig og nýja eiginkonu sína, Henriettu. Árið 1909 vakti söngur hans athygli Lew Dockstader, framleiðanda og stjörnu Dockstader's Minstrels. Jolson samþykkti tilboð Dockstaders og varð söngvari með svart andlit.