約書亞之後的希伯來人的首領，是一位名叫參孫的勇敢的戰士。參孫的力氣非常大，能空手撕裂猛獅，曾經用一塊驢肋骨打死了1000個敵人。
參孫死後，希伯來人仍舊生活在動蕩之中。由於當時的希伯來人還分成了許多小部落。其中較大的部落，一個叫以色列，一個叫猶太。由於一直沒有能夠使所有希伯來人佩服的人出現，有很長時間希伯來人的各個部落沒有統一的領袖。正當希伯來人處於分裂狀態時，來自地中海沿岸島嶼的一個叫做腓力斯丁人的強大部落，向希伯來人發動了進攻。希伯來人沒能抵擋住腓力斯丁人的進攻。連本族的聖物“約櫃”也讓腓力斯人搶走了。
後來，希伯來人在與腓力斯丁人的爭鬥中，形成了自己的國家以色列。就在猶太民族四分五裂的時候，有一個名叫掃羅的勇敢的年輕人，在一次迎擊敵人的進攻中表現得十分勇猛、機智和果斷，成了全體希伯來人尊敬的英雄。全體希伯來人一致推選他為希伯來的新王，為他舉行了希伯來人最隆重的塗油聖禮，把油塗在掃羅的身上，承認他為希伯來人的最高首領。掃羅為以色列第一任國王。後來，掃羅王因為在一次戰鬥中失敗而自殺了。
掃羅死後，一個有勇有謀名字叫大衛的青年登上了王位。他曾經是一個強盜頭，後來被掃羅收服，成了掃羅的帶兵官。大約在公元前1000年，大衛率領猶太人將腓力斯丁打敗，並從腓力斯丁人手中奪回了聖物“約櫃”。
到大衛時代，以色列已是一個強大的國家。公元前1000年左右，大衛的軍隊又攻下迦南人的一個叫耶路撒冷（意思是“和平之城”）的小城市。因為大衛出身猶太部落，他就把他建立的國家稱為以色列猶太王國，並把首都建在耶路撒冷，將聖物“約櫃”供奉在耶路撒冷的神殿中。
大衛還在在耶路撒冷大興土木，修建宮殿和神殿，自己也過上豪華的帝王生活。大衛死後，他的兒子所羅門繼承了王位。
到了公元前590年，新巴比倫王尼布甲尼撒二世第二次進兵猶太，耶路撒冷在被困3年後，公元前586年，猶太國被巴比倫滅亡，耶路撒冷全城的猶太人都成了俘虜，被稱為“巴比倫之囚”。60年以後，巴比倫又被波斯征服了。波斯王居魯士釋放了囚禁在巴比倫的猶太人。但是，猶太人在回到耶路撒冷之後，並沒有過上和平的生活，不時的遭到外族的侵犯。猶太人在絕望中，隻好把希望寄托於“彌賽亞”（救世主）的來臨。在“巴比倫之囚”5個世紀之後的公元66年，羅馬總督提圖斯掠奪耶路撒冷神殿和宮殿裏的寶物，遭到猶太人的堅決反抗。鬥爭繼續了4年，到公元70年，整個耶路撒冷被提圖斯淹沒在血泊中，他屠殺了全城的猶太人，另外有9.7萬人被變為奴隸，有的送到礦山采礦，有的成了羅馬鬥獸場的角鬥士。
此後，猶太人便離開了耶路撒冷，散落到世界各地。有的甚至來到中國，居住在開封等地。一直到第二次大戰結束之前，猶太民族仍然是一個沒國家的民族。