Дети учились в гимназии девять лет, изучая французский, английский, немецкий и латынь. Также преподавалась физика, химия, зоология и ботаника, геология, минералогия, история и рисования. Изучался ТАНАХ и литература на иврите. Первым директором гимназии стал  доктор философии и известный сионистский деятель Бенцион Мосинзон.

В первый год в гимназию записалось всего 17 учеников — родители боялись отдавать детей в школу с преподаванием на только что возрожденном языке. Однако число учащихся быстро начало расти благодаря хорошей репутации школы. В отличие от большинства учебных заведений того времени в первой еврейской гимназии мальчики и девочки сидели в одном классе.

В 1907 году на VIII Всемирном сионистском конгрессе депутат от Великобритании, судья города Брэдфорда Джейкоб Мозер предложил собрать 80 тысяч франков на строительство в Яффо отдельного здания для ивритской гимназии. Единственным условием было присвоение школе имени отца сионизма Теодора Герцля. Строительство завершилось в 1910 году к началу учебного года. Это было первое общественное здание в молодом городе Тель-Авиве, ставшее его культурным центром. Гимназия получила название «Герцлия».

Многие ее выпускники стали видными деятелями Израиля. Среди них первый министр иностранных дел Израиля Моше Шарет, министр науки Израиля, физик Юваль Неэман, президент Верховного суда д-р Ицхак Ольшан, основатель Хаганы, заложивший основы вооруженных сил Израиля, Элиягу Голомб, мэр Тель-Авива Рон Хульдаи. А также в гимназии «Герцлия» учились будущие деятели израильской культуры: лауреаты премии Израиля поэт Авраам Шленский, чьи первые стихи были опубликованы в гимназической газете «Утренняя роса», поэт Натан Альтерман, писатель Аарон Мегед, художник Нахум Гутман, скульптор Ицхак Данцигер и многие другие.