今世就像通往来世的一条门廊，你们应该在门廊上做好准备，这样才能进入大厅。
——《塔木德》
扫罗、大卫、所罗门是希伯来王国时期的三代君王，他们都来自南部的犹太和便雅悯两个部落，因此，住在北部的其他10个部落之间互相猜忌和怨恨。所罗门死后，他的儿子罗波安继承了王位。
这个棘手的问题罗波安是怎样处理的呢？
罗波安是无能的君主，他奢侈好色、嫉贤妒能、听信谗言，手下也多是些诡计多端的臣仆。在他执政期间，希伯来王国的国力由盛而衰。人们的反抗情绪越来越高，罗波安不仅不安抚人民，缓和这种矛盾，反而侮辱斥责他们：
“我父亲给了你们沉重的负担，很好！现在，我成为了你们的国王，将会把更重的负担压在你们身上；我父亲用鞭子抽你们，我将用带刺的鞭子抽你们。”
这样，矛盾越来越尖锐，最后北部10个部落拒绝承认罗波安，另外选了一位新国王，将撒马利亚定为首都，称为以色列王国。而南部的犹太部落和便雅悯部落仍然效忠于罗波安，称他为犹太王，首都依然是耶路撒冷。
这样，犹太人国家一分为二，统一了100多年的犹太王国就这样分裂了。
公元前8世纪，两河流域的亚述人强大起来，改变了西亚地区的形势。以色列被迫向亚述称臣纳贡。没过多久，也就是公元前722年，亚述攻陷以色列首都撒马利亚，10个部落的人民消失在历史中，毫无声息。从此，他们被称为“失踪的以色列10个部落”，这至今仍是一个千古之谜，一直困扰着后人。犹太王国虽继续维持了100多年，比以色列也强不到哪儿去，犹太王国的续存是以向亚述纳贡称臣为代价换来的。
然而，犹太王国的这种续存的状况却没有持续多久。公元前605年，新巴比伦消灭了亚述，它的国王尼布甲尼撒二世与埃及法老尼科争夺巴勒斯坦，耶路撒冷面临危机。公元前586年，耶路撒冷被尼布甲尼撒二世的军队攻陷。圣殿遭洗劫，耶路撒冷成为一片废墟。犹太王国的国王、祭司、贵族和工匠数万人被俘虏，押往巴比伦。
犹太人作为俘虏被押往巴比伦，史称“巴比伦之囚”。
在这次大流放历程中，他们又一次被迫离开自己的家园，向世界的各个方向奔逃，成为他乡不受欢迎的外来客。
然而，被流放到巴比伦的犹太人却比那些被异族同化的北部10个部落的人民要幸运得多，他们并没有被强制性地遣散到各个地方，而是聚集在一起，仍然沿用着自己民族的传统习俗和信仰，他们又渐渐形成了稳定的犹太移民区。但此后，“犹太人”就成了犹太人与其后人的称呼，同时也成为整个犹太民族的通称。
最初的时候，犹太人怀着亡国之恨，非常仇视巴比伦。《圣约·诗篇》就吟出了这样的诗句：
巴比伦的儿女们
我们要祝福那些
像你们对待我们那样报复你们的人
把你们的孩子摔在石崖上的人
公元前538年，新兴的波斯帝国消灭了新巴比伦王国，这时，犹太人的处境才得到了一些改变。波斯帝国国王居鲁士发现犹太民族的神教思想对巩固帝国的统治有很大的帮助；同时，由于犹太人非常重视自己民族的教育，犹太人普遍拥有较高的文化素养，这种知识对他们来说也是一种精神财富。因此，居鲁士对犹太人采用了借助和利用的政策。于是，犹太人生活在了一种较为宽松的环境里。
在波斯王的统治下，尽管拥有安逸的物质生活，但却出现了精神生活上的危机。在这个充满了诱惑的环境下，犹太人要把自己的民族性保持下来不是一件容易的事。这个时候，先知们又出现了，他们将犹太民族从精神崩溃的边缘中拯救出来。
在犹太民族的发展史上，这个时期占据着特殊地位。
犹太民族在长期的流亡生活中如此顽强地维护自己民族的特性，并从中汲取力量而重新站起来。散居异乡能忠于自己的民族，这是非常了不起的，是犹太民族所独具的，这是其他很多民族无法相比的。
公元前538年，波斯国王居鲁士允许希伯来人返回巴勒斯坦，并支持他们复兴犹太教，在耶路撒冷重建圣殿。如果想留在巴比伦，依然可以留下，犹太人首批回国的约有4万人。
公元前516年，返回耶路撒冷的人和留在当地的极少数犹太人联合起来，经过20年的艰苦努力，才将重建圣殿的工程完成，历史上称为“第二圣殿”。但它的豪华程度及规模却远不如所罗门圣殿。
公元前445年，波斯宫廷内的犹太裔官员尼希米被任命为犹太省省长，回到了耶路撒冷，按祭司对犹太教教义、教规的观点治理当地犹太自治社团。
在“大流散”的历史中，犹太民族遭受磨难、历经艰辛，他们熬过了一个个充满辛酸和屈辱的漫漫长夜，不过这些磨难并没有击垮他们，反而使他们的意志更加坚强。
由宗教的超然性而保持自己民族的独立性，由民族的忠诚性又促进宗教的坚定性，这使得犹太民族在艰难中没有消逝。犹太人杰出的智慧在这里能够得到充分体现。