经历过亚述、巴比伦、波斯、希腊、罗马、拜占廷等古国的统治，犹太人在这一地区逐渐衰落并遭驱逐。尤其是在132年的一次大规模起义遭到镇压后，罗马帝国将犹太人驱逐出这一地区，将地名改为“叙利亚-巴勒斯坦”，企图抹灭犹太人千年来与这片土地相连的痕迹。[10]虽然如此，仍有小部分犹太人一直留在巴勒斯坦，但主要的犹太人口从以色列南部移至了北部。犹太教最重要的两本经籍《密西拿》和《塔木德》经也是在这段时期写成。公元638年，穆斯林从拜占廷帝国夺取了该地区的控制权，之后数个穆斯林国家统治过这个地区；包括了倭马亚王朝、阿拔斯王朝，以及花剌子模和蒙古，在1260年至1516年间由马木鲁克统治，接着在1517年成为奥斯曼帝国一个省份。
数个世纪以来，诸多流亡海外的犹太人一直试图返回以色列。18世纪便有数波小型的回归潮，从数百到上千人不等。在1878年，佩塔提克瓦出现了第一个大型的犹太人农场殖民区。第一次大规模的回归浪潮则始于1881年，散居在世界其他地区的犹太人为了逃避迫害，开始回流到巴勒斯坦，即古犹太国之地。犹太人从奥斯曼帝国和阿拉伯人手中购买土地并且定居。随着犹太居民的增多，他们与阿拉伯人之间的关系也日趋紧张。
1896年，维也纳记者和剧作家西奥多？赫茨尔发起锡安主义运动，号召全世界犹太人回归故土，恢复本民族的生活方式。1897年8月29日在瑞士巴塞尔，他召集了第一届“世界锡安主义大会”，大会决议建立“一个得到公众承认的、有法律保障的家园（或国家）”。“犹太国民基金”和“巴勒斯坦土地开发公司”等相应机构成立，帮助世界各地的犹太人向巴勒斯坦移民。
锡安主义运动的发展推动了第二次回归浪潮，约有四万名犹太人返回定居。1917年，英国外长贝尔福发表《贝尔福宣言》：“英王陛下政府赞成在巴勒斯坦建立一个犹太人的民族家园，并将尽最大努力促其实现”。1920年，国际联盟委托英国管辖巴勒斯坦。1922年英国将托管地划分为两部分：东部为阿拉伯人居住地，西部为犹太居民区。
第一次世界大战后，犹太人掀起了第三和第四次回归浪潮。在1929年爆发的一场巴勒斯坦暴动中，阿拉伯人杀死了133名犹太人。接着在1936年－1939年又有数场暴动发生。对此英国在1939年颁布了一份白皮书，规定39年后的5年内犹太人可再移民75,000人，此后不再接受犹太移民。这份白皮书被许多犹太人和锡安主义者视为是对犹太人的背叛，并且认为那违背了贝尔福宣言。阿拉伯人也并没有就此平息，他们希望完全停止犹太人的移民。
1933年，纳粹党在德国执政，掀起第五次犹太人回归浪潮。1940年，犹太人已占当地居民总数的30%。后来在欧（www.vkzw.com）洲发生的犹太人最终解决方案，进一步推动了犹太人回归。1944至1948年之间，约20万犹太人通过各种途径辗转来到巴勒斯坦地区。第二次世界大战结束后，巴勒斯坦地区已经有60万犹太居民。
1947年，鉴于犹太人与阿拉伯人之间的暴力冲突不断升级，和平努力受到挫败，英国政府决定从巴勒斯坦托管地脱身。犹太人的移民数量自从19世纪末以来一直稳定增长，受到二战中的犹太人大屠杀影响，犹太人复国的理念也获得越来越多的国际支持。联合国成立了“巴勒斯坦专门委员会”，1947年11月联合国大会表决了《1947年联合国分治方案》，33国赞成（包括美国和苏联），13国反对，10国弃权，通过决议：将巴勒斯坦地区再分为两个国家（上次巴勒斯坦领区77%给予阿拉伯人，成为今天的约旦），犹太人和阿拉伯人分别拥有大约55%和45%的领土，耶路撒冷被置于联合国的管理之下，以期避免冲突。分治方案在已开发领土上大致采取照顾传统聚居点、按人口比例均分的原则，但考虑到未来大量犹太难民的迁入，将南部人烟稀少的内格夫沙漠划入犹太国。故犹太人以相对少的人口获得了较多的领土。
1947年11月29日，联合国通过分治方案的当日，大卫？本-古理安接受了该方案，但阿拉伯国家联盟不接受。阿盟委员会高层下令对以色列的犹太平民展开为期三天的暴力袭击，攻击建筑、商店、以及住宅区，紧接着犹太人组织的地下民兵部队展开还击，这些战斗很快便蔓延为大规模的冲突，继而引发了1948年的以色列独立战争。
1948年5月14日，在英国的托管期结束前一天的子夜，以色列国正式宣布成立。以色列在1949年5月11日被承认为联合国的成员国。
在以色列建国之后，埃及、伊拉克、约旦、叙利亚、以及黎巴嫩向以色列宣战，开始了以色列独立战争。北边的叙利亚、黎巴嫩和伊拉克军队都在接近边界的地方被阻挡下来，来自东方的约旦军队则攻下耶路撒冷的东部，并且对城市的西部展开攻击。不过，犹太人的民兵部队成功的阻挡了约旦军队，而地下的国民军组织部队也阻止了来自南方的埃及军队。从6月开始，联合国宣布了一个月的停火令，在这段期间里以色列国防军正式成立。在数个月的战斗后，双方在1949年达成一则停火协议并划清暂时的边界，这条边界线被称为“绿线”。以色列在约旦河的西方获得了额外的.5%的管辖领域，约旦则占有以色列南部一块山地区域和撒马里亚，后来那里被称为西岸地区。埃及在沿海地区占有一小块的土地，后来被称为加沙地带。
大量的阿拉伯人口在战争中逃离新成立的犹太人国家，阿拉伯人将此次流亡称为“大灾难”，估计有400,000至900,000名阿拉伯人流亡，后来称为巴勒斯坦难民，联合国估计有711,000人，战争结束后，以色列不许这些巴勒斯坦难民重返家园。以色列与阿拉伯国家之间未解决的冲突、以及巴勒斯坦难民的问题一直持续至今。随着1948年的战争，西岸地区和加沙地带的犹太人口开始迁入以色列，大量来自阿拉伯国家的犹太人难民使得以色列的人口遽增了两倍。在接下来几年里将近850,000名瑟法底犹太人从阿拉伯国家逃离或遭驱逐，其中约有600,000人迁移至以色列，其他的人则移民至欧（www.vkzw.com）洲和美国。