Os fondos doados a Hovevei Zion por Haim Cohen foron transferidos ao Fondo Nacional Xudeu, que comprou 120 dunams de terra na periferia sur de Xerusalén. Mekor Chaim foi fundada en 1926 polo movemento sionista Mizrahi. Foi planeada como unha aldea de 20 pequenas granxas, e foi construída ao longo dunha rúa principal que se desenvolveu paralela á liña ferroviaria. Cada familia recibiu unha parcela de dous dunums para unha casa, xardín e pomar. Nos primeiros días, as familias tiñan cobertizos para vacas e gallineros. O contratista da construción, Mar Haim, foi o xefe do primeiro comité de barrio. Organizou a compañía de autobuses Hamekasher para abrir unha ruta regular entre Mekor Chaim e o centro da cidade. Inicialmente, había unha billa de auga central no sur do barrio. O comité compraba a auga do municipio e colocaba un garda na billa para contar cantos baldes tiraba cada familia. Máis tarde, construíronse cisternas elevadas no xardín de cada casa. Durante os disturbios árabes de 1929
, os residentes refuxiáronse na sinagoga, que foi construída como unha fortaleza.