Ali naceu en Bombay, na India británica, fillo de Yusuf Ali Allahbuksh (morreu en 1891), tamén coñecido como Khan Bahadur Yusuf Ali, un shií na tradición Dawoodi Bohra, que volveu as costas á ocupación tradicional baseada nos negocios da súa comunidade e en vez diso converteuse nun inspector de policía do goberno. Na súa xubilación gañou o título de Khan Bahadur para o servizo público. Como un neno Abdullah Yusuf Ali asistiu á escola Anumanjayat Him-ul-Islam e máis tarde estudou na escola misioneira Wilson College, ambos en Bombay.
Árabe e inglés