当时，北方鲜卑的又一支柔然开始强大起来，又有匈奴族铁弗部所建立的夏国在关中一带自称一霸，对北魏具有一定的威胁性。柔然还常常侵犯北魏的边境。泰常二年（417），刘裕打后秦，后秦向北魏求救，拓跋嗣本想派一支精锐骑兵直逼彭城（江苏徐州）和寿春（安徽寿县），便向崔浩问计。崔浩以为现在“西有屈丐（夏），北有柔然”，出师对北魏不利。同年，宋武帝灭后秦，取得黄河以南州郡，魏则守黄河北岸，无力渡河相争，魏用兵机会大减，穷人增多，遇天灾就要饿死。秦常七年（422），宋武帝死，魏明元帝立即大举渡河攻宋，崔浩极力谏阻未成。次年，魏夺得司州（治洛阳）全部，兖州、豫州大部。北魏在黄河以南也取得了许多州镇后，重新确立了南北两朝对立的形势。
泰常八年（423），魏明元帝拓跋嗣死，其子拓跋焘即帝位，是为魏太武帝。魏太武帝是北魏历史上一位杰出的君主，在位期间，北魏的社会极为繁盛，他依靠崔浩的谋略和鲜卑人的慓悍，几乎战无不胜。始光元年（424）始，北魏开始大举进攻柔然，迫使它逃奔漠北，暂时不敢南犯。始光三年（426），又分兵两路攻夏，一路攻长安，一路攻统万（夏都城，今陕西榆林西南），当年即克长安，次年又攻下了统万。神麝元年（428），俘获了夏国君主赫连昌。神麝二年（429），魏太武帝又一次进攻柔然。柔然大败，原来臣服于它的些高车等小部落乘机摆脱羁绊，被北魏降服的柔然达三十多万家，掳获马牛羊达几百万头，敕勒也有几十万人向北魏投降。另一部分柔然人向漠北逃亡。两年后，又攻取夏最后都城平凉，夏亡，魏取关中。太延二年（436），灭后燕国，取辽河流域。太延五年（439），灭北凉国，取凉州。至此，自晋永安元年（304）开始的十六国大乱已经结束，黄河流域得到了统一。
平定北方之后，太平真君十一年（450），魏太武帝认为进攻南方的时机已经成熟，便率大军南下攻宋。当时正是宋文帝在位，国力极强。魏宋大战，魏军无法攻克宋的重要城镇，便在城外大肆杀掠，尽量破坏。宋军民痛击魏军，魏死伤大半。次年，魏太武帝只得退兵平城。这次战败，大伤魏国元气，又遭国人怨恨，北魏从此害怕再与南朝交战。正平元年（451），魏太武帝被宦官宗爱杀死。从此，魏始由盛转衰。
孝文帝改革
北魏太和十四（490），冯太后病死，二十四岁的魏孝文帝元宏终于独自执掌了朝政。冯太后丧事处理完毕，他思谋进行的第一件大事，就是迁都洛阳。从道武帝定都平城已来，近百年间，形势发生了极大变化，北魏王朝早已成为北方唯一的最高统一的政权。而平城偏居北边，不便于控御中原地区和向江南用兵，也不便于深入汉化和实行文治，还不免遭受北方柔然与荒年饥馑的威胁，故迁都之事，作为最高统治者，是不能不考虑的问题。
太和十七年（493），孝文帝经过深思熟虑之后，开始着手安排迁都之事，他知道“北人恋本”，直接提出迁都，肯定会遭到众人反对，于是采取了“外示南讨，意在谋迁”的办法，这年五月，他在明堂召集群臣，商讨南伐，试图采用占筮之卦的方法来统一意见，由于占筮得出的《革》卦内容与南伐不符，未能达到预计效果。以尚书令、任成王拓跖澄为首的一批大臣认为《革》卦不吉利，反对南伐，孝文帝一时理穷。众人散后，孝文帝派人单独召见拓跋澄，屏退左右，对拓跋澄和盘托出他的计划，分析指出，自拓跋部定都平城已来，虽然完全占据北方，富有四海，然而平城“乃用武之地，非可文治”，如果进一步移风易俗，势将更难，因此打算借南伐之名，迁都中原。拓跋澄表示完全拥护，二人商定，仍然照孝文帝既定计划行事，借南伐之名，行迁都之实。
随后几月，孝文帝积极布置南伐。六月，他下令在黄河上架桥，以便让大军通过。七月，他又下令实行中外戒严，宣布南伐。八月，他命太尉拓跋丕、广陵王拓跋羽留守平城，亲自统率大军三十万南下。九月，孝文帝抵达洛阳，命大军作短暂休息，自己则到西晋太学遗址参观《石经》。洛阳是汉、魏、西晋的故都，虽遭到战争的严重破坏，但仍然是中原政治与文化的中心地区，对决意深入汉化的孝文帝来说，此时更坚定了迁都洛阳的信念。从南伐大军离开平城，一直淋雨不止，使南伐将领更加丧失信心。这次南伐并没作长期准备，南齐政权也并非不堪一击，随军将领，大臣均知前景凶多吉少，因此当孝文帝又命令大军继续南进时，众人齐跪在孝文帝马前，请求停止南伐，大司马、安定公拓跋休等人甚至哭泣并以死相谏。这正是孝文帝所预计的，他乘机说：“大军出动一次不易，既出军不可无功，若不南伐，就得迁都洛阳。”两者必须择一，要大臣立刻作出决定。拓跋部人多恋北土，不愿迁都，但因南伐极为凶险，毫无胜算，无人敢坚持南伐者，于是都选择迁都。全军齐呼万岁，迁都洛阳之事便这样决定了。孝文帝也知大臣内心实属勉强，事后他曾就此事征询卫尉卿、镇南将军于烈的意见，得到答案是是一半乐迁，一半恋旧。
洛阳城早已破败，迁都洛阳之议决定后，大军就停止前进。孝文帝遣任城王拓跋澄还归平城，向留守官员宣布迁都之事。又命司空穆亮、尚书李冲与将作大匠董尔留守营建洛阳，又派于烈回去镇守平城。一切布置停当，孝文帝便离开洛阳，到河北等地去巡视郡县。直到次年十月，洛阳大体营建完毕，北魏才正式迁都。
迁都洛阳后，汉化的条件更为成熟，孝文帝接着又对鲜卑族风俗文化制度诸方面进行了一系列改革。
太和十八年（494）十二月，就是迁都后两月，为减少民族隔阂，孝文帝下令禁止鲜卑族人再穿鲜卑服装，一律改穿汉族服装。诏令宣布后，“国人多不悦”，只是害怕禁令，绝大多数鲜卑族人才换上汉装。也有少数鲜卑族人仍留恋鲜卑服装。有一次，孝文帝从前方回来，仍见京城鲜卑妇女有“冠帽而着小襦袄者”，或“仍为夹领小袖”的人还穿着鲜卑旧服。于是把留守京城的拓跋澄及其他官员训斥一顿，认为是他们知而不问，督察不严而引起的。老贵族拓跋丕不乐意变易旧俗，当朝廷大臣皆穿汉族衣冠议政时，唯独他一人身穿鲜卑服夹在中间，因他年老功高，孝文帝才不勉强。不过后来拓跋丕也“稍加冠带”，朝廷内外，汉族服装便逐渐取代了鲜卑服。
次年，孝文帝又下令禁止在朝廷说鲜卑语，也就是他对弟弟咸阳王兄禧说的“自上古以来及诸经籍，焉有不先正名而得行礼乎，今欲断北语，一从正音”。具体规定：朝官年三十以上者，习性已久，可允许逐渐改变。三十以下者，如在朝廷不说汉语，仍旧说鲜卑语，就要被降爵或罢职、免职。北魏初进中原时，“军容号令，皆以夷语”。迁都后，孝文帝禁止朝官讲鲜卑语，时间长了，下层的鲜卑人也很少有人讲鲜卑语了。那些迁到洛阳来的“代北户”，有的后来甚至已听不懂鲜卑语。有些怀旧的人，还专门在拓跋部人中教授鲜卑语，“谓之国语”。可见孝文帝的语言改革是十分成功的。语言和服装的改革，大大加快了北魏汉族与少数民族之间民族融合的步伐。同年，孝文帝又下诏规定，南迁洛阳的鲜卑人，死后只能葬在当地，不得送回代北。此令一下，那些南迁的代人，便都成为地道的河南洛阳人了。孝文帝此规定，显然是要割断“代北户”与故土的联系，断绝其客居洛阳的念头，使他们能长久定居中原。
转年，孝文帝又下诏改族的姓。在此之前，鲜卑人的姓氏多是由两个或三个字组成的复姓，如拓跋、尉迟、独狐、勿忸于、步六孤等。姓氏上的强烈差别，影响着鲜卑族与汉族的进一步融合。因此命令把鲜卑复姓改为汉姓。诏令说：“北人谓土为拓，后为跋，魏之先出于黄帝，以土德王，故为拓跋氏。夫土者，黄中之色，万物之元也；宜改姓元氏。诸功臣旧族自代来者，姓或重复，皆改之。”太祖以来的八大着姓也由此改为汉姓，如丘穆陵氏改为穆氏，步六孤氏改为陆氏，贺赖氏改为贺氏，独孤氏改为刘氏，贺楼氏改为楼氏，勿忸于氏改为于氏，纥奚氏改为嵇氏，尉迟氏改为尉氏。“其余所改，不可胜纪。”
紧接着，孝文帝又下诏命定族姓。孝文帝一向羡慕汉族的门阀制度，在中原地区，士族公认清河崔氏、范阳卢氏、荥阳郑氏、太原王氏为士族之首，号称“四姓”，孝文帝在承认四姓为汉族士族之首的基础上，又下令规定鲜卑拓跋的族姓，改变代人“虽功贤之胤，无异寒贱”的状况，把道武帝以来“勋着当世，位尽王公”的鲜卑贵族穆、陆、贺、刘、楼、于、嵇、尉八姓定为国姓，“勿充猥官，一同四姓”，即他们的地位与汉族崔、卢、郑、王四姓地位相当，享受同等的政治待遇。同时依据父祖官爵高低，对鲜卑其他人也划分了族姓等级，在鲜卑族内首次建立了本族的门阀世袭等级制度。
为使鲜卑贵族与汉族进一步融合，形成联合统治的局面，孝文帝又利用皇帝的权威强令两族贵族联姻。他自己先取“衣冠所推”的范阳卢敏，清河崔宗伯、荥阳郑羲、太原王琼四姓之女充入后宫。另外陇西李冲家族虽非魏晋以来的显族，但也多是当朝权贵，“所结姻，莫非清望”，孝文帝也破格把李冲之女纳为夫人。陇西李氏也因此而上升为一流士族，与崔、卢、郑、王并列，“故世言高华者，以五姓为首”。他又特地为五个弟弟与汉族大姓联姻。下令：咸阳王元禧，聘陇西李辅女；广陵王元羽，聘荥阳郑平城女；颖川王元雍，聘范阳卢神宝女；始平王元勰，聘陇西李冲女；北海王元详，聘荥阳郑懿女。在这之前，咸阳王元禧，曾娶一个隶户之女为妻，因此受到孝文帝的严厉责备。由此孝文帝命令诸王，把以前所娶的妻子，皆降为妾媵。鲜汉两族联姻之风兴起后，汉族大姓也多有娶鲜卑贵族之女为妻的，最典型的是范阳卢氏，一门就娶了北魏三位公主，极为当时士族称羡。通过这种两族大姓频繁的政治联姻，两族大姓之间的矛盾逐渐淡化，政治利益日趋相同，共同构成了北魏王朝的阶级基础与社会基础。
孝文帝的上述改革是成功的，但并非都一帆风顺。从上述改革初始，就遭到了部分鲜卑贵族的抵制和反对，甚或演化为武装反抗。迁都之初，拓跋部人就是“多所不愿”，迁都之后，还有相当大的保守势力反对汉化，对孝文帝的改革多次加以阻挠和破坏，以北魏鲜卑的元老穆泰、陆等人为代表。后来太子元恂也加入。元恂在迁居洛阳后，总报怨河洛暑热，“常思北归”。孝文帝赐给他的衣冠，他不愿穿，“常私着胡服”。太和二十年（496），乘孝文帝去嵩岳之机，他与左右密谋，“欲召牧马，轻骑奔代”，被人报告给其父，孝文帝将他囚禁，召见群臣说：“此小儿今日不灭，乃是国家之大祸”，毅然废掉其太子称号。同年冬，鲜卑贵族穆泰、陆与宗室元隆、元业、元超等人勾结，阴谋在平城起兵叛乱，另立新帝。孝文帝得讯，马上派任城王元澄率人速往平城，平定了这次叛乱。诛杀穆泰、元隆、元乙升、元超、陆等人。新兴公元丕知情不报，本也当死，孝文帝念他昔日功高，曾赐他不死之诏，免其死罪，贬为庶民。其后，元恂又企图谋乱，孝文帝逼令他自杀。
孝文帝的改革过程充满了斗争，然而经过他的多项改革措施后，促进了北方地区社会经济的发展，拓跋部人也基本完成了封建化的艰难进程。从此之后，北方的民族大融合也上升到一个新的水平。
北齐的鲜卑化
北齐政权的奠基人是高欢。在高欢、高洋父子建立东魏、北齐政权的过程中，形成了一个以北边六镇兵民基础，以六镇中怀朔镇军人新兴贵族为核心的统治集团。怀朔镇军人原是六镇起义队伍中的一部分。六镇起义后，六镇首领先后有破六韩拔陵、杜洛周、鲜于修礼与葛荣。尔朱荣击败葛荣后，六镇兵民二十余万被迫迁居到并州和肆州，归尔东兆统辖。尔朱兆部下虐待六镇兵民，迫使六镇兵民不断举行武装反抗。尔朱兆深感头痛，便把六镇兵民交给高欢，命他统率，于是高欢成为继葛荣之后的六镇统帅。他率领六镇兵民占据了河北，打败了尔朱氏集团，建立了东魏。高欢死后，高洋能轻而易举地以禅代方式建立北齐，也是依靠着六镇军人。从葛荣到高欢，又到高洋，在六镇军人当中，逐渐产生出一个“怀朔集团”。葛荣曾是怀朔镇将领，他当六镇首领时，曾重用潘乐、任延敬、王基、可朱浑元、张琼等怀朔镇人，使怀朔镇将领在六镇军人中的地位开始上升。后来高欢成为六镇首领时，这些人也随之成为高欢的骨干将领。高欢本人也是怀朔镇人，他在怀朔镇一度任过队主、信使等职，当时便与怀朔镇省事司马子如、户曹史孙腾、外兵史侯景等官吏以及刘贵、贾显智、尉景、蔡俊等人相互友好。在他起家的过程中，这些人也都追随着他，立下了许多功勋。除早死者外，其余人都成为东魏和北齐高氏政权中的核心人物。另外，在高氏统治集团中，一些将领大臣，如段荣、窦泰、韩轨、尉长命、斛律金、傅伏、库狄盛、贺拔允、莫多娄贷文、步大汗萨、赵猛、韩贤、徐远、万俟普、破六韩常等人，也都是怀朔人，高氏政权中的上层统治集团主要由这些新兴的军事贵族组成。
鲜卑军事贵族和鲜卑化的汉人军事贵族在东魏和北齐仗着他们的权势，以及强大的六镇兵民组成的社会基础，在朝野形成一股强大的鲜卑化势力，使自孝文帝汉化改革后逐渐缓和的民族之间矛盾又激化起来。早在高欢起兵时，就针对上升的民族矛盾与六镇鲜卑约定：“不得欺汉儿。”但事实上这个约定无效，他的军队依赖汉族农民养活，却不断欺压汉族农民，使鲜、汉民族矛盾日益尖锐。高欢恐民族矛盾影响他的政权统治，曾力图调和这种矛盾。他在鲜卑军人面前说：“汉民是你们的奴婢，男子为你们耕种，女子为你们纺织，供给你们粮食布帛，使你们温饱，你们为何要欺凌他们？”他在汉族人面前则说：“鲜卑人是你们雇来的客人，吃你们一石粮，穿你们一匹布，却为你们作战，使你们得以安宁，你们为何要仇恨他们？”