不少开明之士曾向忽必烈献策，讲明重建统治基地的重要意义。如谋士郝经便多次提出，在燕京建都。忽必烈亦深知，幽燕之地，地势雄伟、险要。往南可控制江淮，往北可连接朔漠，以此为通邑大都真乃最佳的选择。然而，刚刚称汗称帝而又老谋深算的忽必烈却对迁都之事表现出不置可否——蒙古族的权贵们反对把统治中心向南迁移，他们舍不得离开他们的老窝。忽必烈还得靠他们的支持，不能不照顾到他们的情绪，否则树敌过多，对他日后的统治极为不利。
然而随着忽必烈的威信在蒙古贵族中的扶摇直上，也因为统治区域的日渐扩大，尤其是汉族地区的农业经济逐渐成为蒙古国的主要经济成分，迁都问题便提到日程上来了。这时的忽必烈似乎不要为迁都问题而趑趄不前了，他发布诏书，把兴建都城的重任委托给素所信任的刘秉忠。
大都的营建，从公元1267年开始，直至公元1276年，历时10年。元代大都城规模宏伟，在当时世界上首屈一指，是名副其实的“大的开始”：大都城周长约28．6公里，共有11座城门，南东西各3门，北2门。南北并不对称，据说是象征神话中哪吒的三头六臂二足。意大利旅行家马可？波罗，在元朝当官10余年，在他的名着《马可？波罗游记》中称赞大都的建筑说：“美善之极，未可言宣。”
在大城完工前，忽必烈即正式赐名为大都，并迫不及待地迁都于此。元朝统治中心，从此就以政治、经济、文化发达的汉地为统治基地，在中国历史上，北京亦第一次正式作为全国性的大都城赫然出现在世界上。忽必烈建立元王朝，以一个新朝雄主的姿态登上了历史舞台。但当时长江以南仍有宋朝相对峙，事实上他只有半壁河山。到至元十六年（公元1279年），他才灭亡南宋，实现了中国历史上又一次大统一。
迁都大都这一举动一方面避开了叛乱诸王的威胁，立足于人力、物力俱丰的中原地区，以驾驭幅员辽阔的大蒙古国；另一方面，显露了忽必烈在取得蒙古大汗地位之后，志在灭掉南宋、一统天下的雄心壮志。
在即位的最初几年里，忽必烈致力于巩固汗位，建立元朝的集权体制，对南宋只求维持现状。中统元年（公元1260年）四月，他派郝经为国信使到南宋宣告自己即位的消息，并商谈履行与贾似道达成的协议。但是，贾似道害怕郝经抵达朝廷会败露其屈辱投降的议和条约，便把郝经拘留在真州（今江苏仪征）。宋理宗风闻来了使者，表示“北朝有使臣来，应当议论一下媾和的事。”贾似道反而说：“议和是对方的计谋，哪能轻易听从！”此事遂不了了之。忽必烈得不到回音，便派使者寻找郝经，但没有什么结果，至元四年（公元1267年），忽必烈在巩固了自己的地位并作了长期备战之后，便以宋廷拘囚郝经为借口，举兵南下伐宋。
至元四年（公元1267年）十一月，南宋降将刘整向忽必烈献策说：“攻宋方略，应当是先图襄阳。如能得手，便可由汉水入长江，一举扫平南宋。”忽必烈采纳了他的建议。从至元五年（公元1268年）起，忽必烈派阿术、刘整等进攻襄阳。
当时，南宋主要依靠长江天险与蒙古对峙。沿江的战略据点主要是上游的重庆、中游的鄂州和下游的建康（今南京）、扬州。襄阳位于鄂州西北，成为中游的前沿要害，蒙哥伐宋曾以攻略上游（蜀）为主。因为当时主攻中游，可能遭到上游宋军的声援侧击。但当时南宋在上游的兵力已削弱，而且备受掣肘。再主攻上游，乃是舍近求远；而先主攻下游，则受中游威胁。因此，忽必烈的选择无疑是明智的。
襄阳位于汉水南岸的一个河湾里，且三面临水，南宋派吕文焕率重兵驻守在这里，而在汉水北岸，与襄阳隔水相望，又有樊城，也驻有南宋的重兵。阿术发现水战不如南宋，便造船5000艘，训练了7万水军，不断发起攻势。公元1273年，元军用回回炮轰击樊城，樊城失陷。吕文焕向宋廷告急。这时候，贾似道却沉湎于声色之中。他表面上屡屡上书请求督察前线，暗中却让他人上章挽留。朝中遂派高达出援，高达与吕文焕本有积怨，吕文焕风闻高达要来，立刻假奏大捷，使朝廷停止增援。这时，回回炮已经击中襄阳城的谯楼。吕文焕招架不住，束手就擒。历时五年的襄樊攻防战就这样以南宋失败而告终。
攻克襄樊后，忽必烈深信四海混同的日子不远了。至元八年（公元1271年）十一月，忽必烈宣布将“大蒙古”国号改为“大元”，以一个新朝雄主的姿态登上了历史舞台。
公元1274年，他发布灭宋诏书，命左丞相伯颜和平章政事阿术统帅20万大军，水陆并进。临行，忽必烈勉励伯颜：“古时候，只有曹彬善取江南，你如果能做到不杀，就是我的曹彬。”（曹彬是北宋初年大将，率军灭南唐时曾禁止部下杀掠）忽必烈已决心统一江南各地，而不发动一次新的杀掠。
“天马浮江，兵强将锐。”伯颜与阿术由汉水趋长江。12月，伯颜取得阳罗堡战役的胜利，接着，上溯攻占汉阳、鄂州，控制中游形势，然后顺江东下，节节推进。贾似道赶到芜湖督阵，次年2月，伯颜将贾似道打得一败涂地，退到扬州。7月，忽必烈升伯颜为右丞相，阿术为左丞相，命伯颜趋临安。大军压境，南宋官员接踵宵遁。南宋朝廷再三遣使求和，表示可称侄纳币，称侄不许，可称侄孙，再不许，可称臣，只是“乞存境土”。公元1276年正月，议和未成，伯颜已从平江进驻临安东北的险地皋亭山。宋帝赵显无可奈何，再次遣使上表投降，表示削去帝号，献奉现存州郡，“为宗社生灵祈哀请命”，5月，忽必烈在上都召见赵显，废其帝号，封瀛国公。
在伯颜攻入临安的前夕，宋裔益王赵罡与广王赵昺从临安出走抵达温州。南宋大臣陆秀夫、张世杰、陈宜中纷纷前来会合。5月，赵罡即位于福州，是为端宗。文天祥原随赵显北上朝见忽必烈，在镇江逃脱，也辗转而至，被任命为枢密使同都督，并以南剑州为据地，力图恢复。但是，整个战局是元军从各方面步步进逼。9月，元军分道进攻福建、广东。从11月起，陈宜中、张世杰等已不得不奉赵罡、赵昺登上海舟，流亡于泉州、潮州、惠州等地，处境已十分窘迫。
公元1277年，因北方有警，忽必烈召诸将班师。文天祥、张世杰乘机恢复广东、江西。但从8月起，元军重又进攻。9月，元军以舟师下海追寻赵罡、赵昺。第二年3月，赵罡逃亡到硇洲（今广东），4月死去。陆秀夫又立赵昺，年仅8岁。至元十五年（公元1278年）十二月，文天祥在五坡岭（今广东海丰）被捕，在招降书上愤然写下了“人生自古谁无死，留取丹心照汗青”的不朽诗句。至元十六年（公元1279年）二月，南宋的最后据点崖山被攻破，元将张宏范大败宋将张世杰。张世杰企图用小舟载赵昺遁逃，陆秀夫不愿他被俘受辱，抱着这个小皇帝投海而死。南宋的国祚就这样地断绝了。
经过多年的浴血奋战，忽必烈在巩固大蒙古政权的基础上，终于灭亡了南宋。使“北逾阴山，西极流沙，东尽辽左，南越海表”的广大地区置于元代中央政权的管辖之下，奠定了中华民族的版图。可以说，忽必烈对我国疆域的确立，立下了不朽之功。
承宗改制穷兵黩武
蒙哥统一蒙古大帝国时，蒙古族受到中原地区先进汉文化的影响，正经历着从早期奴隶制向封建制过渡的阶段。可是，刚刚跨入文明时代门槛的蒙古族，尚处在游牧为主的畜牧经济发展阶段，蒙古贵族还不具备管理中原汉地封建社会的那种政治修养和文化水平。蒙哥执政时期，在局部地区把游牧奴隶制经济强加于中原汉地，造成了历史的一时倒退。
从成吉思汗到蒙哥时期，蒙古政权机构也相当混乱，所谓“随事创立，未有定制”。大汗统治主要是采取分封的方式，每个蒙古贵族奴隶主都分到一定数量的土地和人民，作为他们的“投下”，诸王功臣所占人户几乎是当时帝国总户数的70%以上。投下主有权在自己的分地内设官，处理各种事务，有很大的独立性，就像一些大大小小的独立王国，连大汗都不能干涉其内政。
对于国家内政的治理，忽必烈的主要指导思想是推行“汉法”。忽必烈是一个锐意进取的政治家，他的继位标志着大蒙古帝国统治方式的根本转变。至元十六年（公元1279年）灭南宋后，忽必烈开始在元王朝中全面实施汉法。