Vuonna 1952, kun Ranska värväsi algerialaisia taistelemaan Indokiinan sodassa, Boumédiène meni Kairoon, jossa hän opiskeli Al-Azharin yliopistossa. Siellä hän tapasi Ahmed Ben Bellan. Hän liittyi kansallisen vapautusrintaman (FLN) jäseneksi Algerian itsenäisyys sodassa.
Vuonna 1955 hän otti nimeksi "Houari Boumédiène" (Sidi Boumédienesta, joka oli Tlemcenin kaupungin suojelijan nimi Länsi-Algerissa, jossa hän palveli upseerina sodan aikana, ja Sidi El Houarista, lähellä sijaitsevan Oranin suojelijan). Hän saavutti everstiluokan, joka oli silloin FLN:n korkein sotilasarvo, ja vuodesta 1960 lähtien hän oli ALN:n, FLN:n sotilaallisen siiven, päällikkö.