Gray1925年1月19日にルイジアナ州ケナーで生まれました。間もなくして家族と共にバトンルージュの北へ数マイルのアルセンにある農場に移って子供時代を過ごしました。8歳の時から近所に住む女性にピアノを習い、数年後には地元のバプティスト協会でピアノやオルガンを弾いていました。16歳になると地元のクラブでブルースを弾き始めました。)などに参加しました。)など多くのアーティストの伴奏を務めました。1956年からは12年間に渡りハウリン・ウルフ・バンドに参加しました。その傍らチェスのセッション・ピアニストとして数多くのアーティストの録音に参加して、シカゴ・ブルースの特徴的な響きを付け加えています。ウルフ亡き後は、故郷のルイジアナに戻って活動し、ルイジアナ・スワンプ・ブルースを披露しています。