Brigade ini dibentuk pada tanggal 22 Februari 1948 selama Perang Arab-Israel 1948, ketika Brigade Levanoni di Galilea terbagi menjadi Brigade Golani ke-1 dan Brigade Karmeli ke-2. Pada hari-hari awal brigade memperoleh kontrol atas tiga batalion - 21st, 22nd dan 23rd - meskipun, kemudian selama perang batalion ke-24 juga didirikan. Sejak itu telah berpartisipasi dalam semua perang besar Israel dan hampir semua operasi besar, termasuk Perang Sinai
, Perang Enam Hari, Perang Kehancuran, Perang Yom Kippur, Operasi Litani, perang pertama dan kedua di Lebanon, dan berbagai operasi selama intifada Palestina.