Во время Второй мировой войны оркестр дал более около 150 концертов для солдат антигитлеровской коалиции. После образования Израиля коллектив из Палестинского был переименован в Израильский филармонический оркестр, исполнив на церемонии провозглашения Декларации независимости Израиля гимн новой страны.

Оркестром в разные годы руководили выдающиеся дирижеры. Леонард Бернстайн (1947-49 гг) называл работу с израильским оркестром лучшими годами своей жизни и всегда охотно откликался на приглашения выступить с ним. Вместе с Сергеем Кусевицким и Излером Соломоном Бернстайн провел первые гастроли оркестра в США в 1950 году.

Особая дата для Израильского филармонического оркестра – 1971 год. Музыканты дали триумфальный концерт в Берлине, имевший оглушительный успех. Последним среди произведений, исполненных на «бис», вновь стал гимн Израиля. Этими гастролями руководил один из лучших дирижеров мира Зубин Мета, который возглавил оркестр в 1968 году. Его успех был настолько велик, что Мета получил статус пожизненного руководителя Израильского филармонического оркестра – случай в мире музыки беспрецедентный.

Вместе с оркестром Зубин Мета участвует в символических акциях, имеющих большое не только музыкальное, но и общественное значение. Мета дирижировал концертом, в котором участвовали два оркестра – Баварский государственный и Израильский филармонический. Музыканты из Германии и Израиля вместе играли на сцене, построенной возле места, на котором находился концлагерь Бухенвальд. Возле одного из символов нацизма звучала симфония Малера – музыка сильнее смерти.