Sõna Kairouan arvatakse pärinevat araabia sõna Oayrawan ('karavan') halvast hääldusest. Kuna siin leidus vett, oli see koht lõunast põhja poole liikuvate karavanide peatuspaigaks. Mõned inimesed püüavad linna nime Kairoga seostada.