ЦАХАЛ был основан через две недели после основания государства, во время  Войны за независимость. Временное правительство во главе с давидом Бен-гуриономприняло решение о создании армии, и  26 мая 1948 г. Давид бен-Гурион подписал «Указ об Армии Обороны Израиля».

К началу июня 1948 г. между руководством Хаганы и руководителями других подпольных военизированных организаций Эцель и  Лехи было  подписано соглашение о том, что их боевые подразделения будут интегрированы в ЦАХАЛ. Исключение составляли подразделения этих организаций в Иерусалиме, на который тогда не распространялся израильский суверенитет. Все военные силы, не примкнувшие к ней, были объявлены вне закона. Поскольку большую часть ЦАХАЛа составили члены «Хаганы», он в основном сохранил её организационное строение.