Esimene Shaolini klooster rajati 377. aastal m.a.j. imperaator Wei käsul Shao Shih mäele(Sunshan) mahapõlenud metsa mälestuseks. Imperaatori aednikud istutasid templi ehitamise ajal sinna ka uusi puid. Siit ka templi nimi "noor(uus) mets" (Shaolin on mandariini keeles ja Si Lun kantoni keeles). Hiljem nimetati see maakond, kus klooster asus, Honan'i provintsiks. Imperaator käskis ehitada selle kloostri algselt mungale, kelle nimi oli Pao Jaco ja sel ajal mungad veel väekunstidega ei tegelenud. Templil oli 12 alumist ja ülemist hoovi ja teda ümbritsesid peaaegu täielikult mäed, mis olid kaetud bambuste, seedrite ja veejugadega. Läänepoolsel terassil töötas ja mediteeris  Da Mo. Bodhidharma, hiina nimega  Da Mo (Tamo), oli chan budismi 28. patriarh , kes tuli Liangi dünastia aegsel perioodil 527. aastal Keskriiki Indiast pärast imperaatori külastamist Nankingis, et õpetada valitutele "Tõelist õpetust". Shaolinis tõlkis ta sakskriti keelest hiina keelde budistlikke käsikirju. Arvatakse, et  Da Mo  tuli sinna, sest üks munk oli sinna Indiast palju käsikirju juba toonud ja see oli ka kõige lähemal kui  Da Mo  imperaatori juurest tuli. Mungad ei võtnud teda alguses vastu ja seepärast läks ta kloostri peal asuvasse koopasse ja hakkas mediteerima. Legend räägib, et tema meditatsioon oli nii tugev, et ta põletas sellega läbi ühe koopa seina augu. Kui ta kloostrisse lõpuks vastu võeti,  nägi ta, et paljud mungad on haiged ja nõrgad. Põhjus oli selles, et mungad ei hoolitsenud oma tervise eest. Et leida õige tee munkade tervise parandamiseks, sulges Da Mo end üheksaks aastaks oma tuppa, et mediteerida; selle tulemusena valmis ka kaks raamatut: "Shi Sui Ching", mis seletas vaimu treenimise meetodeid ja "Yi Gin Ching", mis õpetas, kuidas treenida füüsilist keha. Räägitakse, et 9 aasta jooksul istus ta näoga seina poole ja kuulas "sipelgate karjatusi". Temast räägitakse kui peaaegu deemonlike vaimsete võimetega mehest. Kord kui ta mediteeris, jäi ta magama. Üks legend jutustab, et see vihastas teda nii, et ta lõikas ära oma silmalaud ja viskas need ühele peenrale. Hiljem olevat tärkanud seal teepõõsad, mida mungad hakkasid une peletamiseks kasutama. Põhja-Hiinas ei tuntud teed enne 700-900 a. m.a.j. ja Üks buddha munk viis selle Jaapanisse ligikaudu 1200. a.   Da Mo  õpetas kloostriülemana munkadele 18 harjutust. "Arhati 18 kätt" - nendes harjutustes oli kuus võtet löögiks  rusikaga, kaks käeservaga, üks küünarnukiga, neli jalalööki ja viis haaret.   Da Mo  suri küpses vanaduses 539. aastal m.a.j. Ilmselt on need tema raamatud praeguseks  kadunud, sest mõned inimesed tahtsid harjutada raskete meetodite järgi. Kuid Yi Gin Ching on säilinud Shaolinis põlvkondade jooksul edasi õpetatuna.