17 марта 1948 года  Израиль Галили, командующий военной организацией Хагана,  подписал приказ о создании Морской службы (Ширут Ями). В неё влилась большая часть Морской роты Пальмаха (Плугот Ха-Ям), которая занималась охраной еврейских переселенцев, прибывавших в Эрец-Исраэль по морю, и проводкой  судов с иммигрантами через английские кордоны.

В начале у Морской службы было только пять боевых кораблей.  Три из них «Эйлат», «Хагана» и «Веджвуд» были военными судами класса корвет. Два других, «Нога» и «Маоз», были переделанными гражданскими кораблями. Все эти суда активно участвовали в войне за Независимость, пресекая попытки вооруженных атак с моря.

На счету ВМФ Израиля много славных страниц, о которых можно узнать в музее нелегальной иммиграции и военно-морского флота в Хайфе.

Одним из главных экспонатов отдела нелегальной иммиграции является полностью сохранившийся корабль «Аф Аль Пи Хен» («Несмотря ни на что»). В 1947 году судно с 434 иммигрантами на борту было перехвачен британским эсминцем, его пассажиры были депортированы на Кипр. После Войны за Независимость корабль прослужил на флоте до 1958 года. Потом его демонтировали, перевезли в музей и собрали заново.

В Отделе истории ВМФ отражен путь военно-морских сил, принимавших участие во всех войнах Израиля. Самые знаковые экспонаты отдела: ракетный катер типа «Саар 2»; подводная лодка «Галь»; катер морских командос типа «Снунит»; торпедный катер производства СССР, захваченный у Египта в 1973 г.; катер «Пикколо», с которого была совершена попытка высадки террористов на пляже Ницаним в 1990 г. Перед входом в музей установлена часть рубки поднятой со дна моря подводной лодки «Dakar», погибшей в 1968 году.