Cole non raggiunse il grande successo fino a quando non incise "Sweet Lorraine", nel 1940. Benché cantasse ballate con il suo trio, era piuttosto insicuro riguardo alla sua voce e pur andando fiero della sua buona dizione, non si considerò mai un grande cantante. Il suo stile suadente e il timbro caldo tuttavia, ben contrastavano l'approccio aggressivo di molti altri cantanti dell'epoca. Il King Cole Trio siglò un contratto con la neonata Capitol Records nel 1943, e rimase con quella casa discografica per tutto il resto della sua carriera.