智伯一计得逞，满心喜悦，随即又向魏氏索要土地。魏桓子的本意当然也不愿意，谋臣任章问为什么不愿意，桓子说，无缘无故地索要土地，无法答允。任章说：“无故索地，天下必惧；君予之地，知伯必骄。骄而轻敌，邻国惧而相亲。以相亲之兵，待轻敌之国，知氏之命不长矣！”任章从总体形势上分析，智伯索地得逞，会狂傲，狂傲必然轻敌；被索者会自然而然地联合为一个阵营，共同对抗智伯。以联合阵营的强大实力来对付一个轻敌狂傲的敌人，胜负的结局显而易见。他还讲了“将欲败之，必姑辅之；将欲取之，必姑与之”的辩证思路，劝魏桓子不必为爱惜领地而单独与智氏对抗，一定要等形势变化到对智伯不利时再说。魏桓子听从了任章的劝告，也送给智伯一个万家之邑。
智伯轻而易举得到两个万家之邑，如法炮制，向赵襄子索要蔡、皋狼之地。襄子断然拒绝。智伯索地，明显是要蚕食三家。蚕食不成，即变为鲸吞。智伯当即率领韩、魏二氏，以三家的甲兵攻伐赵氏，意欲一举而翦灭之。
赵襄子见形势于己不利，决定退守以避敌锋芒。但是，退到哪里去呢？臣下建议，长子（今山西长子）城垣厚实，修整完好，距离不远，可以据守。襄子说：“民罢力以完之，又毙死以守之，其谁与我？”他认为当地人民修缮城池已经疲惫不堪，如果在那里死守，恐怕民心不稳。又有人建议退到邯郸（今河北邯郸市），那里仓库充实。襄子说：“浚民之膏泽以实之，又因而杀之，其谁与我？”仓库充实是因为搜刮民脂民膏，当地人民被剥夺压榨已苦不堪言，再让人家浴血守城，怎么会与自己同心协力？他最后决定：“其晋阳（今太原市南晋源镇一带）乎！先主之所属也，尹铎之所宽也，民必和矣。”
晋阳是赵氏经营多年的根据地，以前邯郸叛乱时，范、中行氏支持叛者，赵简子就曾退保晋阳。襄子所说“尹铎之所宽”，指的是赵氏对晋阳地区有特殊的优惠政策。当初赵简子派尹铎治理晋阳，尹铎就专门请示过，在晋阳是为赵氏输送财赋呢，还是建立稳固的根据地？简子明确肯定是后者。因而尹铎减少了上交赋税的户数，大大减少了实际上的征收税额，民众得到实惠。襄子所谓“先主之所属”，是先主赵简子特别嘱咐过襄子：“晋国有难，而无以尹铎为少，无以晋阳为远，必以为归。”晋阳就是为了防备不测而经营的，名义上收取的财赋虽少，却是最为可靠的固守壁垒。所以襄子认为只有晋阳的民心可用，撤退到了晋阳。
襄子巡视晋阳一周，见城池坚固，府库充实，仓廪丰盈，只是缺乏御敌所用的箭矢。张孟谈告诉他，早年董安于修建晋阳时，深谋远虑，建筑宫室墙垣的材料都可以用来造箭杆，铜铸的柱础可以用来造箭镞。于是一切齐备，严阵以待三家来犯。
智伯统率三家联军猛攻晋阳3月不下，又围困一年多未克。联军顿兵坚城之下，渐渐趋于被动。而晋阳城中军民却是同仇敌忾，士气始终高昂。
智伯眼见战事拖延两年而进展甚微，不禁焦急万分。他苦苦思索，终于想出引晋水（汾水）淹灌晋阳城的计策，企图用它来攻破晋阳坚城。
于是，智伯命令士兵在晋水上游筑坝，造起一个巨大的蓄水池，再挖一条河通向晋阳城西南。又在围城部队的营地外，筑起一道拦水坝，以防水淹晋阳的同时也淹了自己的人马。工程竣工后，正值雨季来临，连日大雨不止，河水暴涨，把蓄水池灌得满满的。智伯下令，掘开堤坝，一时间大水奔腾咆哮，直扑晋阳城。很快地晋阳全城都被浸没在水中了。城内军民只好支棚而居，悬锅而炊，病饿交加，情况十分危急。但尽管这样，守城军民始终没有动摇斗志，仍坚守着危城。
晋阳城被水所困，“城不浸者三版（二尺为一版）”。智伯见赵氏指日可灭，踌躇满志，带着魏桓子、韩康子巡视水情，忘乎所以地说：“吾乃今知水可以亡人国也。”魏、韩二人听了这话，马上联想到自家的事，魏桓子想到汾水可以灌安邑（今运城市附近，属魏），韩康子想到绛水可以灌平阳（今临汾市，属韩）。魏桓子用胳膊肘暗捅韩康子，二人心领神会，已包藏着反戈一击的杀机。
智伯对韩、魏二家的动静毫不在意，满以为大功垂成，韩、魏二氏不足为虑。倒是他的臣属中有个叫郄疵的人注意到一些端倪，提醒说：“韩、魏之君必反矣。”智伯不解，郄疵给他解释说，原来已经和两家约好，攻灭赵氏，三分其地。现在晋阳城马上要被攻克，两家之君不但面无喜色，反而有忧虑之态。如果他们真有这种顾虑，那是一定要反的。智伯不但不信郄疵之言，并且将他的话转告了魏桓子和韩康子，可能也包含着试探之意。韩、魏二君当然矢口否认，还说这是谗臣替赵氏游说，离间三家的关系；真是那样的话，韩、魏两家放着就要到手的赵氏土地而不顾，却去冒风险同智氏作战，岂不是很愚蠢？智伯相信了韩、魏二君的狡辩。二君出门，郄疵进门，对智伯说，他说的那些话怎么能告诉韩、魏二君呢？智伯反问郄疵怎么会得知，郄疵说从那两个人的神态上就可以看出来。智伯始终不相信韩、魏两家会反，郄疵自己想到个脱身避祸之计，请求到齐国出使去了。
韩、魏参与攻打赵氏，原先就是出于被胁迫，这时对智伯的残暴更有了亲身的感受，开始感到赵如果灭亡后，自己也难免落得被兼并的下场，于是便对作战行动采取消极应付的态度。赵襄子看出了韩、魏两氏与智伯之间这种滋长中的矛盾，决心巧妙加以利用。便派遣张孟谈乘夜潜出城外，秘密会见韩康子和魏桓子，用唇亡齿寒的道理，说服韩、魏两家暗中倒戈：“臣闻唇亡则齿寒。今知伯帅二国之君伐赵，赵将亡矣，亡则二君为之次矣。”他的说辞一针见血，直指二君的隐忧，赵氏灭亡，紧接着就轮到韩、魏二家了。二君对这一点深有同感，只是担心事机不密，先遭智伯的毒手。张孟谈说：“谋出二君之口，人臣之耳，人莫之知也。”只要不泄漏出去，就不会出问题。于是三人约好日期，共谋智氏。
赵、韩、魏三家密谋联合就绪后，便在一个约定的夜间展开军事行动：赵襄子在韩、魏的配合下，派兵杀死智伯守堤的官兵，掘开了卫护堤坝，放水倒灌智伯军营。智伯的部队从梦中惊醒，乱作一团。赵军乘势从城中正面出击，韩、魏两军则自两翼夹攻，大破智伯军，并擒杀智伯本人。三家乘胜进击，尽灭智氏宗族，瓜分其土地。为日后“三家分晋”奠定了坚实的基础。
在晋阳之战中，赵襄子善于利用民心，激发士气，挫败了智伯围攻孤城、速战速决的企图；当智伯以水灌城，守城斗争进入最艰巨的阶段时，赵襄子及守城军民又临危不惧，誓死抵抗，并利用韩、魏与智伯的矛盾，加以争取，瓦解智伯的战线，使其陷于彻底的孤立，为尔后的决战创造了有利的态势。当“伐交”斗争取得成功后，赵襄子又能制定正确的破敌之策，巧妙利用水攻，以其人之道还治其人之身，用水倒灌智伯军营，予敌以出其不意的打击。并及时把握战机，迅速全面出击，取得了聚歼敌人的彻底胜利。由此可见，赵襄子在晋阳之战中表现出卓越的政治、外交、军事才能，不愧为当时杰出的政治家和军事家。
智伯的失败，在很大程度上是他咎由自取。他恃强凌弱，一味迷信武力，失却民心，在政治上陷入了孤立。四面出击，到处树敌，在外交上陷入了被动。在作战中，他长年顿兵于坚城之下，白白损耗许多实力；他昧于对“同盟者”动向的了解，以至为敌所乘。当对方用水攻转而对付自己时，又惊恐失措，未能随机应变，组织有效的抵御，终于身死族灭，一败涂地，为天下笑。
晋阳之战，是春秋、战国之际，晋国内部四个强卿大族智、赵、韩、魏之间为争夺统治权益，兼并对手而进行的一场战争。是役历时两年左右，以赵、韩、魏三家联合携手，共同攻灭智伯氏，瓜分其领地而告终。它对中国历史的发展具有较大的影响，因为在这场战争后，逐渐形成了“三家分晋”的历史新局面，史家多将此视为揭开战国历史帷幕的重要标志。
公元前438年，晋哀公死，其子柳继位，是为晋幽公。幽公之时，晋公室已毫无权威，幽公非但不能号令韩、赵、魏三家，反而自己得去朝见三家之君。公室只保留了绛（当为今山西侯马市之新绛）与曲沃（今山西闻喜东北）二邑，其余的晋国土地全被三家瓜分。此后，韩、赵、魏就称为三晋。“三国分晋”后，虽然晋国宣告灭亡，新兴的赵、魏、韩济身诸侯之列活动于中华舞台；但晋作为公国，其烈公、孝公、静公在狭小的天地中还有名无实地存在了28年。
公元前403年，周威烈王正式册命韩、赵、魏为诸侯。
公元前376年，韩、赵、魏三国废掉晋静公为庶人，晋国灭亡了。煊赫两百年的北方霸主——晋国，它的宗庙不再有人祭祀了。
从此以后，韩（都城在今河南禹县，后迁至今河南新郑）、赵（都城在今山西太原东南，后迁至今河北邯郸）、魏（都城在今山西夏县西北，后迁至今河南开封）都成为中原大国，加上秦、齐、楚、燕四个大国，历史进入公元前五世纪下叶，“战国七雄”的时代到来了。
晋国的第一流贵族中，多少豪族，先氏、狐氏、隙氏、栾氏、祁氏、羊舌氏、范氏、中行氏、胥氏等等，包括国君一族，在过去的两百年中，相继陨落，宗庙被夷平，子孙被废平民。如今保存下来的就剩赵、魏、韩三家。三家垄断了晋国五十个县以上的土地，以及土地上的人口和兵员。一个家族，和一个朝代一样，也有兴亡盛衰。此起彼落的家族兴衰集合成朝代的盛衰。