公元前722年，兩河流域北方的亞述帝國侵入以色列王國。攻陷撒馬利亞，俘虜了以色列國王和臣民兩萬七千人，以色列變為亞述帝國的一個行省。南部猶太國雖未被消滅，繼續存在一百三十六年，但已淪為亞述的附庸。
公元前605年，亞述帝國被新巴比倫所滅，新巴比倫王尼布甲尼撒二世於公元前588年率軍進入巴勒斯坦，圍困耶路撒冷十八個月之久，攻陷之後將耶路撒冷夷為平地，並把上萬猶太人不分貴族平民俘虜到巴比倫，成了“巴比倫之囚”，猶太國滅亡了。
公元前538年，波斯人在居魯士的領導下征服了新巴比倫。波斯人為了利用猶太人抵擋希臘人和埃及人的入侵，便讓猶太俘虜返回巴勒斯坦，並幫助他們重建了耶路撒冷和聖殿。猶太教的教義、教規和禮儀等也都完善地確定下來。
波斯人委任總督統治巴勒斯坦約二百年。公元前332年，馬其頓王亞曆山大的鐵騎開始征服巴勒斯坦，攻陷耶路撒冷後洗劫了這座古城，城內的建築大都被摧毀，從此巴勒斯坦地區又處在希臘人的統治之下。
亞曆山大死後，馬其頓帝國分裂成三個王朝。以埃及為中心的托勒密王朝於公元前301年征服了巴勒斯坦，並把上萬猶太人掠往亞曆山大城，於是亞曆山大城又成為猶太人的一個聚居地。猶太教在這裏吸收了希臘文化，進一步發展了。
後來，塞硫古王朝取代托勒密王朝而統治巴勒斯坦。塞硫古統治者對猶太人實行民族壓迫和宗教迫害政策，激起了猶太人的反抗。
公元前165年，猶太人在瑪卡比三兄弟的帶領下，高舉振興猶太教的旗幟舉行起義，並建立起神權政體的“瑪卡比王國”。但瑪卡比王國內部的宗教派係鬥爭十分激烈，各派爭鬥的焦點是耶路撒冷聖殿的控製權。就在這種爭鬥的同時，公元前63年，羅馬大將寵培率軍攻陷了耶路撒冷，猶太人被屠殺一萬二千餘人，還有大批俘虜被押往羅馬。
羅馬把巴勒斯坦交由敘利亞總督統治。羅馬統治者對猶太人征收苛重的捐稅，並一再劫掠耶路撒冷聖殿及庫藏，從而激起了猶太人的仇恨。
公元前53年，即羅馬統治猶太十年後，猶太人發動了大起義，反抗羅馬統治。這次起義雖失敗了，但猶太人的反抗鬥爭仍未停止。公元前4至3年，乘國王希羅德死後的混亂之機，猶太人再度發動起義。起義在三個地區發生，其中一個地區的領導者是國王的奴隸。羅馬統治者嚴厲鎮壓，起義城鎮全被焚毀，起義者被釘在十字架上處死。
鎮壓並不能阻止起義的發生。繼公元6年起義之後，公元66年，猶太人進行了更大規模的起義，被羅馬稱為“猶太戰爭”。起義者消滅了耶路撒冷的羅馬駐軍，鬥爭堅持了四年。直到公元70年，羅馬軍隊才重占耶路撒冷，並開始殘酷殺害起義者。
大批被俘虜的起義者都被釘死在十字架上，以至出現“沒有地方再立十字架，沒有十字架再釘人”的情況。除死難者外，耶路撒冷居民被賣為奴隸者達十七萬人。起義雖然一再失敗，但猶太人對羅馬的仇恨並沒有泯滅。猶太人多次舉行起義，都被羅馬當局殘酷鎮壓了。猶太人一直未能擺脫苦難，猶太教也無能為力。在這種情況下，一種更能給人以精神安慰的教派出現了。這一教派篤信“救世主”將拯救猶太人，並且有許多狂熱的“先知”到處宣傳這種觀點。
基督教就是在這種篤信“救世主”的教派的基礎上，於公元一世紀在巴勒斯坦產生的。基督教的創始人叫耶穌，他的父親是個木匠，他的母親叫瑪利亞。他成年之後開始在巴勒斯坦收徒講道，傳播基督教福音。耶穌及其十二個門徒在猶太人下層傳播“福音”，主張人人平等，反對剝削壓迫，組織禮拜團體一起講道祈禱，並互相幫助救濟。耶穌的傳教遭到猶太上層和羅馬當局的嫉恨。結果，這位基督教創始人在耶路撒冷被釘死在十字架上。
公元132—135年，猶太人再次發動大起義，但仍然逃不脫失敗的命運。至此，猶太人的國家徹底滅亡了。羅馬把猶太地區改名為巴勒斯坦。猶太人開始大規模地流亡出境，揭開了長達一千八百餘年的猶太人大流散的曆史。