Ma gimė Hanchiachi kaime, Linxia apygardoje, Gansu. Jis buvo Ma Fulu sūnus, kuris mirė 1900 metais, kovoja prieš užsieniečius Pekino mūšyje (1900)
boksininkų sukilimas. Kaip Ma Fuxiango sūnėnas, jis sekė jį ir vėliau Feng Yuxiang į armiją. Jis ir Ma Fuxiang apsaugojo katalikų misiją Sandaohe nuo Gelaohui atakų, ir jis gavo Leopoldų ordino (Belgija) ("Karaliaus Leopoldų apdovanojimas") Per sukilimą Gansu Centrinės lygumos kare musulmonų generolas Ma Tingxiang buvo užpultas Ma Hongbin, kuris tarnavo Feng administracijoje Ningxia.