北魏崛起后统一了五胡十六国，北周又进一步扩大了北朝的地域，成为南北对峙中北方的最后一个政权。公元581年，北周相国杨坚迫使自己的外孙周静帝退位，自立为帝，改国号为隋，称为隋文帝。在北国政权的基础上建立了隋朝。文帝积极改革，增强实力，灭掉了南方陈朝政权，结束了东晋以来数百年分裂的局面，统一了南北。
杨坚生于贵族之家。父亲杨忠是西魏、北周的军事贵族，西魏时因辅佐宇文泰建立政权，受封为十二大将军之一。北周时官至柱国大将军，封为随国公。杨坚后来袭父职，他的妻子独孤氏是鲜卑大贵族独孤信的爱女，他的女儿杨丽华是北周宣帝的皇后。
北周宣帝好酒色，常在后宫酗酒，并实施严刑酷法，统治无道，北周政权日趋衰落。宣帝死后，宦官郑译、刘假传遗诏，召杨坚进宫，并极力主张让他入宫辅政，杨坚因此总揽军政大权，并逼迫彦之议交出天子玉玺和兵符。为防止各地的诸侯王发动兵变，杨坚借口赵王要嫁女儿给突厥，把北周皇室成员召进京都，又让静帝下诏书把威望极高的元老重臣尉迟迥召回京师。尉迟迥统兵数十万，北联突厥，南结陈朝，在相州举兵反杨，同杨坚对抗。杨坚以韦孝宽为行军元帅发兵讨伐，尉迟炯兵败自杀。杨坚在重臣李穆、韦孝宽的支持下，不到半年时间，就平定了各方叛乱。580年，杨坚白称隋王，是因其父封随国公，而随字不吉利，国号便改为隋。隋朝建立后，文帝采取加强中央集权和发展社会经济的改革措施，国力渐渐强盛，为统一全国奠定了基础。隋初，北方突厥的势力强盛，与隋朝对抗。突厥可汗曾率军南下大举侵隋，隋军损失惨重。后突厥内部发生叛乱，隋才得到短暂安宁。不久突厥内部矛盾更加激化，并分裂为东、西两汗国。文帝利用突厥的分裂进攻突厥，突厥大败，东突厥归附隋朝。隋文帝完成了北方的统一，转而集中兵力于南方。文帝积极作伐陈的准备工作，令大将军贺若弼和韩擒虎镇守离陈国较近的广陵和庐江；大将杨素调集水工大造战船，做渡江的准备。公元587年，文帝灭掉后梁的割据势力，扫除了向陈进军的障碍。公元588年，隋文帝诏告天下，历数陈后主的罪恶，以瓦解陈军斗志，为战争做好舆论准备。之后，文帝令儿子杨广率兵50多万兵分8路，南下攻陈。
陈后主从小生活在宫廷中，根本不知创业和守业的艰难，沉湎于酒色，不理政事，朝中大臣劝后主以国事为重的就被后主杀掉。当后主得知隋朝进攻后还不以为然，宣称有王气在陈国。隋朝首先在长江沿岸对陈军发起全面进攻，陈军毫无抵抗力，隋军乘胜包围建康。公元589年初，隋将韩擒虎、贺若弼率军渡江，分两路攻入建康。后主和张贵妃、孔贵妃躲到景阳殿的枯井中，最终还是当了俘虏，陈朝灭亡。自东汉以来4个世纪的分裂局面结束了，南北又归于统一，全国进入稳定时期。