至元十年（1273年），忽必烈大军攻克襄樊，阿术和刘整遣使飞报胜利消息，忽必烈非常高兴，下诏嘉奖众将士。
四月，阿里海牙带着降将吕文焕入朝，将相大臣纷纷要求乘胜南伐。忽必烈也有意南伐，但为了把事情办得稳妥一些，特召姚枢、许衡和徒单公履等人问计，徒单公履说：“乘破竹之势，席卷三吴，此其时矣。”忽必烈十分赞赏，于是，成立了荆湖襄阳和淮西正阳两个行枢密院，以史天泽、合丹等人为枢密使，做大举攻宋的准备。至元十一年（1274年）正月，阿里海牙又向忽必烈建议说：“襄阳，自昔用武之地也，今天助顺而克之，宜乘胜顺流长驱，宋可必平。”阿术也说：“臣久在行间，备见宋兵弱于往昔，失今不取，时不再来。”忽必烈立即召来史天泽同议发兵大事，史天泽说：“此国大事，可命重臣一人如安童、伯颜，都督诸军，则四海混同，可计日而待矣。臣老矣，如副将者，犹足为之。”忽必烈听了这话，说：“伯颜可以任吾此事。”阿术和阿里海牙都表示赞同。
伯颜曾跟从旭烈兀西征，并在那里任事十余年，后来作为旭烈兀使团成员，从伊利汗国来到元朝，被忽必烈看中，留在自己身边，成为忽必烈的亲近大臣。忽必烈准备最后灭宋，首先想到伯颜，准备把最后灭宋的大任交给他。
至元十一年（1274年）三月，忽必烈为了加强灭宋的统一领导，将荆湖和淮西两个行枢密院改为两个行中书省，以伯颜、史天泽、阿术、阿里海牙和吕文焕行省荆湖，以合答、刘整、塔出、董文炳行省淮西。后来，史天泽向忽必烈建议说：今大师方兴，荆湖、淮西各置行省，势位既不相下，号令必不能一，后当败事。忽必烈采纳了史天泽的意见，为了号令统一，又把淮西行中书省改为行枢密院，把灭宋大权集中到伯颜手中。
忽必烈做好攻宋准备以后，六月，下令大举攻宋，他诏谕行中书省及蒙古汉军万户千户军士说：
“爰自太祖皇帝以来，与宋使介交通。宪宗之世，朕以藩职奉命南伐，彼贾似道复遣宋京诣我，请罢兵息民。朕即位之后，追忆是言，命郝经等奉书往聘，盖为生灵计也，而乃执之，以致师出连年，死伤相藉，系累相属，皆彼宋自祸其民也。襄阳既降之后，冀宋悔祸，或起令图，而乃执迷，罔有悛心，所以问罪之师，有不能已者。今遣汝等，水陆并进，布告遐迩，使咸知之。无辜之民，初无预焉，将士毋得妄加杀掠。有去逆效顺，别立奇功者，验等第迁赏。其或固拒不从及逆敌者，俘戮何疑。”
忽必烈又抓住宋朝拘留使者之过，鼓励将士奋勇杀敌。一时军情激奋，个个摩拳擦掌，发誓要灭亡宋朝。
忽必烈发布诏谕以后，伯颜前来辞行，忽必烈语重心长地对伯颜说：“昔曹彬以不嗜杀平江南，汝其体朕心，为吾曹彬可也。”从前，忽必烈率军平大理时，姚枢劝他以曹彬为榜样，不嗜杀人，忽必烈深以为然。如今，忽必烈也以曹彬灭南唐市不易肆的故事，劝伯颜不嗜杀人，足见忽必烈已经有了仁民爱物之心。
九月，伯颜督率诸军，兵分两路大举灭宋，伯颜本人与阿术统领右军主力，以南宋降将吕文焕为先锋，由襄阳入汉水：过长江。左军由合答统领，以南宋降将刘整为先锋，出淮西取道扬州而进。又令董文炳率领一路大军自淮西正阳南逼安庆，以为呼应。各路大军都受伯颜节制。伯颜一声令下，元军个个奋勇争先，对南宋发起了最后的攻势。
这时，宋度宗已病死，贾似道拥立全后的幼子赵即位，是为宋恭帝。南宋的总兵力约有七十余万，从军队数量上来说，不少于元军。但贾似道当权，政治腐败，军队分崩离析，没有战斗力。正如南宋京湖制置使汪立信所说：“今天下之势十去八九，而君臣宴安不以为虞，”整天“酣歌深宫，啸傲湖山，玩岁日，缓急倒施”，要想打退元军进攻，“不亦难乎！”他心中非常焦急，向贾似道献上三项抗元的策略，上策是在全部七十万大军之中，选出英勇善战者五十余万充实江上，沿江百里设屯，“屯有守将，十屯为府，府有总督，其尤要害处，辄参倍其兵。无事则泛舟长淮，往来游徼，有事则东西齐奋，战守并用。刁斗相闻，馈饷不绝，互相应援，以为联络之固”。中策是“久拘聘使，无益于我，徒使敌得以为辞，请礼而归之，许输岁币以缓师期，不二三年，边遽稍休，藩垣稍固，生兵日增，可战可守”。下策则是等候投降。汪立信的分析不为不确，所献上策和中策不失为妙法良策，然而，贾似道不但不予采纳，反而以汪立信眼睛不好，大骂：“瞎贼狂言敢尔”，立即罢了汪立信的官。贾似道拒谏饰非，弄得人心惶惶，朝野一片混乱。不久，在南宋首都临安（今杭州）等地就流传出一首“江南若破，百雁来过”的歌谣，以“百雁”为“伯颜”的谐音，暗示元朝丞相伯颜所率大军即将灭亡南宋了。
伯颜率领右路主力会师襄阳，派遣唆都由枣阳进司空山，翟文彬由老鸦山出荆南，以分散宋军对汉水流域的防守，伯颜本人统帅中军沿汉水直逼郢州（今湖北钟祥）。
郢州在汉水北岸，以石砌城，高如大山，矢石也打不进去。宋军又在汉水南岸修筑一座新郢城，在江中央插了很多木桩，拦截船只的往来。宋军还用铁绳把数十条战船连接起来，配以强弩，挡住元军的进路。南宋大将张世杰率领十余万精兵和一千多艘战船守卫在这里。离郢州不远的黄家湾堡也有宋军防守。伯颜见状，不敢贸然进攻。他派遣吕文焕观察了郢州宋军的防御设旋，发现黄家湾堡西边的沟渠。深阔数丈，南通藤湖，可达汉江。阿术所俘获的老百姓也提供了这一线索。于是，伯颜派名将李庭、刘国杰攻下黄家湾堡，由藤湖入汉江。当时。许多将领向伯颜说：“郢城，我之喉襟，不取，恐为后患。”伯颜说：“用兵缓急，我则知之。攻城，下策也，大军之出，岂为此一城哉。”坚持绕过郢州，渡过了汉水。结果，驻在郢州的宋军沉不住气了，在副都统赵文义率领下，出城追击元军，伯颜闻讯，亲率大军回返，将宋军杀得大败。
伯颜通过郢州，顺流破沙洋、新城，来到汉口，当时，南宋淮西制置使夏贵、都统高文明等以战船万艘阻拦元军的进攻。南宋都统王达以重兵驻守阳逻堡。阳逻堡是南宋江防要塞，历来是兵家必争之地，阳逻堡若失，江防要城鄂州必不可保。伯颜摆出进攻汉口的架式以吸引宋军，然后由沙芜入长江，全力进攻阳逻堡。宋军坚守，奋勇抵抗。伯颜攻了三天，也没有攻下来。有位相士对伯颜说：“天道南行，金木相犯，若二星交过，则江可渡。”伯颜不相信相士的胡言乱语，派阿术率三千骑兵夜袭长江南岸，以为捣虚之计，然后南北夹攻，大败宋军，夏贵仅率少数战船逃走。鄂州知州张晏然、都统程鹏飞听说阳逻堡失守，心惊胆战，以城投降。
占领鄂州以后，伯颜分兵留阿里海牙经略荆湖，自领水陆大军，以吕文焕为前锋，顺流而东。宋朝沿江诸帅多为吕文焕旧部，皆不战而降。至元十二年（1275年）正月，伯颜与董文炳等会师于安庆，二月，进入池州（今安徽贵池）。
鄂州等地相继失守，南宋朝野震动，群臣纷纷上疏，要求贾似道亲自出兵抗元。贾似道被迫无奈，只好勉强出兵。但他畏元如虎，没有出战，就故伎重演，又派遣宋京使元，企图用奉币称臣的办法，再次同蒙古议和，被伯颜严辞拒绝。没有办法，贾似道只好装腔作势，布置起军队来。他令泰州观察使孙虎臣以精兵七万驻在池州附近的丁家洲，令淮西制置使夏贵以战船两千五百艘停在长江拦阻元军，自己则带一部分军队驻在芜湖以南的的鲁港。明令建立都督府，号称雄兵百万。表面上威力十足，实际上宋军内部矛盾重重。夏贵因在阳逻堡被元军打败，害怕别的将领打胜仗治他的罪，又担心孙虎臣抢功，所以没有斗志。而元军乘胜而来，士气旺盛。伯颜令元军造大船十余艘，船上放满干柴禾，扬言要烧宋人战船，以威吓宋军。然后率军猛攻丁家洲。阿术和孙虎臣对阵激战，用炮火猛轰宋军，宋军顿时大乱。战未多时，宋朝大将夏贵先逃，贾似道仓惶失措，急忙鸣金收兵，元军乘势冲杀过去，宋朝十三万大军倾刻溃散，主力全部瓦解。
元军乘胜追击，三月，攻下建康（今江苏南京）。伯颜以行中书省驻建康，阿塔海、董文炳以行枢密院驻于镇江，巩固了长江防线，为元军最后灭宋奠定了基础。
伯颜在建康，有人告诉他宋朝大臣汪立信曾向贾似道献过上、中、下三策，如今自杀而死。伯颜听后，非常惊讶地说：“宋有是人，有是言哉！使果用，我安得至此。”宋朝不是没有人才，而是以贾似道为首的统治集团太腐朽了。
伯颜率军打响灭宋战役以后，忽必烈一直关心战事的发展，当他听到前线不断传来捷报，心情无比激动和喜悦，仍然像往常一样，对战事的发展不断做出布置和指示。但他由于未能亲入宋境，不知道宋朝腐朽的速度会那么快，以为宋朝还有一定势力，再加上西北诸王在北边不断骚扰，忽必烈对伯颜进军如此神速有些担心，曾几次以“士卒不习水土，遣使令缓师”，“以北边未靖”，命令“勿轻入敌境”等。至元十二年（1275年）五月，又因为西北诸王骚扰，将伯颜从南方前线召回上都（今内蒙古正蓝旗东闪电河北岸），特意商议是否继续进攻南宋的问题。
伯颜攻宋，连连获胜，正欲率军直取临安，忽接回都命令，遂打马飞行，很快赶回上都。这时，西北诸王海都等人乘元军攻宋之机，对忽必烈发动了新的攻势，忽必烈有意暂时停止攻宋，令伯颜北上平定海都叛乱。伯颜向忽必烈详细汇报了攻宋情况，并说，宋朝现在十分腐朽，正是灭宋的大好时机，建议继续进兵，一举灭宋。忽必烈听了伯颜的话，对宋廷的腐朽有了新的了解，当即批准了伯颜的请求，令其领兵迅速攻克临安，灭亡宋朝。同时，为了不让西北诸王占到便宜，忽必烈又令右丞相安童行中书省、枢密院事，辅佐皇子那木罕率大军北征海都。
诸事安排妥当以后，南北两支大军同时向对手发动了进攻。
伯颜昼夜兼程，迅速赶回建康。十一月，伯颜从建康、镇江一线分兵三路直攻临安。以行省参政阿剌罕等为右军，从建康出四安攻余杭县西北的独松关；以董文炳、张弘范等为左军，自江阴取海道经澉浦、华亭攻入临安；伯颜与行省右丞阿塔海为中军，从建康出发经常州进攻临安。一声令下，三路大军水陆并进，气势汹汹地杀向临安。
这时，临安城内，慌作一团。贾似道因为丁家洲战役不战而逃，以及鄂州城下私订和约和扣留郝经等事暴露，群情激愤，被贬往循州，途中被押送人员郑虎臣杀死。贾似道虽然被杀，但他把宋朝搞得混乱不堪，流毒甚广，已经无法挽回了。朝中大小官员，听说元军三路来攻，纷纷离职逃走；外地守臣，也纷纷丢印弃城而去。辅佐幼帝的谢太后急得像热锅上的蚂蚁，急忙写了一张诏令，贴到朝堂上，全文曰：
“我国家三百年，待士大夫不薄。吾与嗣君，遭家多难，尔小大臣不能出一策以救时艰，内则畔（叛）官离次，外则委印弃城，避难偷生，尚何人为？亦何以见先帝于地下乎？天命未改，国法尚存。凡在官守者，尚书省即与转一资，负国逃者，御史觉察以闻。”
虽然谢太后苦苦哀求，既有对未逃者晋升一级的奖赏，又有对逃者进行惩罚的恫吓，仍然无济于事，弃官而逃者不见其少，日见其多。
这期间，谢太后知道形势危急，没有办法，只好下了一道哀痛诏，令各地赶快起兵勤王。谢太后在这道哀痛诏里，承认“田里有愁叹之声，而莫之省忧；介胄有饥寒之色，而莫之抚慰”。要求“文经武纬之臣，忠肝义胆之士”大起义兵，来挽救垂死的宋王朝，并答应将来“不吝爵赏”，重重酬报。
诏书发到各地，那些平时“食宋君之禄”的大小官员和将领连理都不理，只想逃跑或投降元朝，去食新主子的俸禄了。只有赣州（今江西赣州）知州文天祥和郢州守将张世杰率兵入卫临安。文天祥是吉州庐陵（今江西吉安）人，宝祐四年（1256年）考中状元，后被任为赣州知州。他接到谢太后勤王诏书，不顾一切，拿出家财召募一支军队星夜赶往临安保卫王室，却遭到宰相陈宜中的拒绝，派他到平江（今江苏苏州）去作知府，又让他去守余杭附近的独松关，然而，还未等文天祥去上任，两地均已失守，陈宜中只好同意文天祥去临安。这时，宋朝大势已去，无可挽回。
陈宜中和谢太后没有办法，只好派出使者向忽必烈摇尾乞怜，请求退兵修好，表示可以称侄纳币，称侄不许，可以称侄孙，最后愿意称臣，求封为小国。然而，事到如今，再摇尾乞怜也没有用，毫无疑问，每次都遭到了拒绝。不过，伯颜受忽必烈之命，并不拒绝宋使前来谈判，他怕把宋人逼急了，宋人或战或逃，使临安的公私财富在战火混乱中焚毁散失，因此，利用宋人委曲求全的心理，假意谈判，缓缓进兵。
和议不成，文天祥主张让谢太后、全太后（宋度宗后）、恭帝入海，留下自己背城一战。陈宜中不许，但又拿不出任何办法，后来干脆撒手不管，逃到温州去了。
伯颜三路大军进展顺利，至元十三年（1276年）年初会师临安。谢、全两太后手足无措，只好任命文天祥为右丞相兼枢密使，派他去元营谈判。文天祥到达元营，不顾伯颜的威胁利诱，始终坚持先撤军后谈判的立场。伯颜见文天祥临危不惧，知为难得人才，遂打破元军从不扣留使者的惯例，将其拘留营中，意欲使其投降。
文天祥被留，谢太后、全太后、宋恭帝无可奈何，只好捧着传国玺和降表向伯颜投降。伯颜接受降表，入临安巡视，观潮于浙江，而后驻于湖州。接着，伯颜在临安设立两浙大都督府，命忙兀台、范文虎管令大都督府事宜。又命张惠、阿剌罕、董文炳等人入城点核仓廪及军民钱谷簿册，收缴百官诰命官印等。又命人收取御用器物、符玺、宫中图籍和珍宝等。
董文炳等人入城后，罢去南宋职官，解散南宋军队，封存府库，收集礼乐器皿及图籍等。又向翰林学士李槃建议说：“国可灭，史不可没。宋朝十六主，有天下三百余年，其太史所记具在史馆，宜悉收以备典礼。”遂收集宋史及诸注纪五千余册，保存起来，后送归国史院，保存了大量典籍，为后来修撰《宋史》奠定了基础。
由于伯颜牢记忽必烈“以曹彬为榜样，不嗜杀人”的教诲，“奉扬宽大，抚戢吏民”，致使“宋民不知易主”，“九衢之市肆不移，一代之繁华如故”。这些措施很快使临安市民安定下来。
至元十三年（1276年）三月，伯颜留下董文炳、阿剌罕等人经略浙闽未下州郡，令阿塔海等人进入宋宫，向恭帝赵澂及两太后宣布诏旨，免其系颈牵羊之礼，跟随大军北上。五月，宋恭帝等到达上都，忽必烈亲自召见，废其帝号，封为瀛国公。
元军能够迅速攻占南宋首都临安，完全是忽必烈运筹帷幄、不失时机发动灭宋战争的结果；是忽必烈用人得当、又善于听取刘整、伯颜等人建议的结果；是忽必烈整顿内政、发展经济、保证前线物资供应的结果；是忽必烈安抚百姓、不嗜杀人的结果；当然，也是南宋极端腐朽的结果。
就在伯颜进围临安、宋恭帝准备投降之际，宋度宗之子益王赵禾焦、卫王赵昰等从临安出走，经婺州抵达温州，张世杰和陆秀夫等人，后来也越城逃走，听说二王在温州，赶来相会，并辗转来到福州。
文天祥出使元营被扣留，元人押解北上，行至镇江，文天祥与随从人员设法逃出，历尽艰险，也来到福州，与张世杰、陆秀夫等人共同拥立年仅九岁的赵即位，是为宋端宗。然后传檄远近，号召恢复，在江南西路、福建路和广南东路一带继续坚持抗元斗争。
至元十三年（1276年）十月，忽必烈命塔出、吕师夔等以江西行都元帅府兵自江西进入广东，阿剌罕、董文炳、唆都以行省兵出浙东进入福建，分道追击张世杰等。十一月，张世杰等人奉帝是逃走泉州，结果，提举泉州市舶司官员蒲寿庚也投降了元朝，张世杰、陆秀夫只好护卫帝昰逃往潮州。
这时，西北诸王海都等人的叛乱不但没有解决，相反，忽必烈派遣平叛的宗王蒙哥之子昔里吉等人又发动了叛乱，劫持皇子那木罕和丞相安童，分送至术赤后王忙哥帖木儿和海都处，并回师攻掠和林。形势顿时紧张起来。忽必烈统观全局，明确认识到当时的主要危险来自北方，遂将平南大军陆续抽调北上，江南新附之地，守备顿时空虚。
文天祥抓住这一有利时机，积极进行恢复活动。
文天祥从镇江逃脱，来到福州以后，“使吕武招豪杰于江淮，杜浒募兵于温州”，很快又组织了一支抗元武装，转战于赣南、闽西、粤东一带，乘元朝大军北调之机，联络各路豪杰，相继收复梅州、广州、湖州、邵武、兴化等地，曾取得“雩都大捷”，攻克兴国，赣州所属各县全部恢复，元军只守住了赣州一城。吉州所属八县地也恢复了四县。各地闻讯，纷纷起兵响应，赣南、粤东的形势出现了转机。
从伯颜攻宋以来，元军到处如入无人之境，少数地方和少数军队虽曾进行过抵抗，给元军以严重打击。但范围多限于一城一地，性质也仅限于消极防守，从来没有进行过积极的反攻。文天祥这次大规模的军事恢复活动，在抗元斗争史上是少见的，不但鼓舞了各地抗元斗争的士气，也震动了元朝统治者。
消息传到上都，忽必烈十分震惊。他本以为宋都失陷，其余各地可随手而拾，哪知又杀出来个文天祥，一时把元军打得落花流水。对于文天祥的胆识和勇气，忽必烈既佩服又愤怒。佩服的是，在首都陷落、皇帝被掳、大小官员纷纷投降的形势下，文天祥还能组织一支不小的军队，“驱群羊而搏猛虎”，坚持抗元斗争，这在腐朽的宋王朝当中，简直是个奇迹。愤怒的是，忽必烈这时正忙于平定西北诸王的叛乱，弄得焦头烂额，偏偏在这个时候，文天祥把他的江南部署打乱了。
然而，忽必烈毕竟是一位杰出的政治家和军事家，他在形势极度复杂的情况下，仍然镇定自若，统观全局，进行新的部署。他仍然将主力放在北方，令伯颜、阿术等率军北征海都、昔里吉等人的叛乱，同时，加强了南方的军事部署，特设江西行省，以塔出、麦术丁、彻里帖木儿、张荣实、李恒、也的迷失、失里门、程鹏飞、蒲寿庚等人行江西行中书省事，分水陆两路进攻闽广。后来，又命张弘范、李恒为蒙古汉军都元帅，水陆并进，扫荡残宋势力。又命塔出、吕师夔、贾居贞行中书省事于赣州，兼辖江西、福建、广州诸道，既要保证当地的稳定，又要保证前线的后勤供应。
忽必烈部署已定，各支大军遵命而行。
这时，小皇帝赵昰在元军的追击下，东躲西藏，受尽了惊吓，一时得病死了。张世杰、陆秀夫等人又立八岁的赵为帝，然后逃到崖山（今广东新会海中），坚持抗元。
在元军的进击下，文天祥连连失败，就连自己的妻子欧阳夫人、女儿柳小娘等也落入元军手中。至元十五年（1278年）十二月，文天祥撤出潮阳，转移海丰，准备进入南岭山中，结营固守。行至海丰以北的五坡岭时，文天祥估计元军一时追不上来，便停下来埋锅做饭。哪知陈懿投降了元军，为其担任向导，带领轻装骑兵，兼程追袭，很快就追到了五坡岭。
这时，文天祥和幕僚们正在岭上吃饭，毫无准备，仓促应战，很快就败下阵来，文天祥等人全都成了元军的俘虏。
当文天祥被押至张弘范面前时，张弘范劝他投降。文天祥严辞拒绝。张弘范没有办法，只好把文天祥押在军中，与李恒合兵进攻南宋的最后据点崖山。当文天祥随军经过珠江口外的零丁洋（今广东中山南）时，想起当年在赣水皇恐滩应诏起兵勤王的情景，感慨万千，面对零丁洋，抱定必死的决心，写下了悲壮的千古绝唱《过零丁洋》诗：
辛苦遭逢起一经，干戈寥落四周星。
山河破碎风抛絮，身世飘摇雨打萍。
皇恐滩头说皇恐，零丁洋里叹零丁。
人生自古谁无死，留取丹心照汗青。
至元十六年（1279年）二月，张弘范率军到达崖山，要求文天祥写信劝张世杰投降，文天祥说：“吾不能扌干父母，乃教人叛父母，可乎？”坚决不答应。后来，张弘范强迫文天祥写信劝降，文天祥大义凛然，写出他的《过零丁洋》诗作为回答。
张弘范看着没有办法，只好下令军中，向崖山猛攻。
张世杰把一千条大船结成一字阵，阵中的船与外面的船用绳索联结起来，四周加筑楼栅战栅，看上去像城墙一般。
张弘范见宋军把大船联在一起，便用轻舟满载茅草，浇上油，乘着风势，点上火，向宋军的船队漂去，希望收到赤壁火烧战船的功效。哪知张世杰早有准备，在战船上涂了厚厚的一层泥，使火不容易烧着。船上又备有长杆，一见火船逼近，便伸出长杆，顶住来船。张弘范的火船到了宋军船队面前，近不得前，只好停在那里，白白地烧掉了。
张弘范见火攻失败，遂调来大炮，利用炮石、火箭作掩护，南北夹击，突破宋朝水军阵角，跳上宋船。与宋军短兵相接。宋军虽然顽强抵抗，怎奈寡不敌众，哪里招架得住，眼看全军就要覆灭，陆秀夫抱起年仅九岁的小皇帝赵投海而死。张世杰力战突围而出，后遇风涛覆舟而死。南宋彻底灭亡。
张弘范攻破崖山，非常高兴，于军中置酒大会，大肆庆祝。席间，张弘范对文天祥说：“国亡，丞相忠孝尽矣，能改心以事宋者事皇上，将不失为宰相也。”文天祥丝毫不为所动，回答道：“国亡不能救，为人臣者死有余罪，况敢逃其死而二其心乎”，请求以死报国。张弘范又说，先生意欲留取丹心照汗青，今“国亡矣，即死，谁复书之。”文天祥回答说：“商亡，而夷齐不食周粟，亦自尽其心耳，岂论书与不书。”张弘范见文天祥死不投降，没有办法，只好遣使请示忽必烈如何处理。
元军攻占临安，宋人纷纷投降，忽必烈曾经召见宋朝降将，问道：“汝等降何容易？”那些降将回答道：“贾似道专国，每优礼文士而轻武臣。臣等久积不平，故望风送款。”忽必烈听了这话，觉得这些降将没有骨气，心里一阵恶心，轻蔑地说：“似道实轻尔曹，特似道一人之过，汝主何负焉。正如尔言，则似道轻尔也固宜。”忽必烈本想在南人中选拔一些才能之士，帮助他治理国家，结果在他所见到的降人当中，尽是些无耻之徒，他以为南宋不会有像样的人才了，大失所望。
就在忽必烈为南宋人才匮乏而愁叹、婉惜之际，张弘范所遣使者来到大都，向他报告了文天祥誓死不投降的情况，忽必烈听说南宋还有这样的人才，惊讶不己，“既壮其节，又惜其才”，令张弘范将文天祥护送京师，不准随意杀死。忽必烈决心劝降文天祥，以为其用。
至元十六年（1279年）十月，文天祥被押到大都，忽必烈吩咐大臣，想方设法劝降。于是，劝降使者一个个接踵而至。降元的留梦炎、王积翁先后来劝，文天祥痛骂叛徒，严辞拒绝。忽必烈又派宋恭帝赵劝降，文天祥见宋朝皇帝亲来，立即跪到地上，痛哭流涕，连连说：“圣驾请回”，别的什么也不讲。伯颜手下的大将唆都也来劝降说：“丞相在大宋为状元宰相，今为大元宰相无疑。丞相常说国存与存，国亡与亡，这是男子心。天子一统，做大元宰相，是甚次第。国亡与亡四个字休道”，仍然想用高官厚禄来劝诱文天祥投降，文天祥丝毫不为所动。
多次劝降不成，丞相孛罗亲自出马，文天祥说：“自古有兴有废，帝王将相灭亡诛戮，何代无之，尽忠于宋，所以至此。今日不过死耳，有何言。”孛罗问：“自古常有宰相以宗庙城郭与人，又遁逃去者否？”文天祥回答说：“为宰相而奉国以与人者。卖国之臣也。卖国者必不去，去者必非卖国之臣。”孛罗又问：“汝立二王，竟成何事？”文天祥回答说：“立君以存宗社，臣子之责，若夫成功，则天也。”孛罗又说：“既知其不可，何必为？”文天祥说：“父母有疾，虽不可为，无不用医药之理，不用医药者，非人子也。天祥今日至此，惟有死，不在多言。”孛罗气得发疯，只好禀告忽必烈。忽必烈更加重视其气节，下令将文天祥关押起来，想用时间消磨他的意志。
后来，元军把文天祥的妻子欧阳夫人和两个女儿都押到大都，表示，只要文天祥一屈膝，家人立可团聚。文天祥确实想念妻子儿女，但他更重气节，宁可不见亲人，也不屈膝。
忽必烈听说文天祥誓死不屈，更加重视其骨气和为人，更想引为己用，于是亲自召见文天祥说：“汝以事宋者事我，即以汝为中书宰相。”文天祥回答说：“天祥为宋状元宰相，宋亡，惟可死，不可生。”忽必烈又说：“汝不为宰相，则为枢密。”文天祥说：“一死之外，无可为者。”
忽必烈亲自劝降不成，仍然不想杀害，有意释放，可谓爱才切切，这在古代帝王之中，实在少有。
就在这时，有位僧人说：“土星犯帝坐，疑有变。”中山地区又有人自称“宋主”，有兵千人，扬言“欲取文丞相”。大都亦有匿名书，“言某日烧蓑城苇，率两翼兵为乱，丞相可无忧者”。元人怀疑丞相即指文天祥，他们害怕释放文天祥以后，文天祥“复号召江南”，因此，建议处死文天祥。忽必烈虽然觉得有些可惜，但考虑到元朝江山的稳固，还是含泪下达了杀死文天祥的命令。
至元十九年十二月九日（1283年1月9日）文天祥在大都柴市（今北京东四大街府学胡同；一说在宣武门外菜市口）从容就义，当时他只有47岁。
忽必烈灭亡南宋，摆酒庆贺，论功行赏，那个高兴劲儿，用语言是没有办法形容的。
是的，忽必烈灭亡南宋，建立了历史上任何一个朝代都不能比拟的大统一王朝，他怎能不高兴呢？
中国自唐朝末年以来就进入了五代十国的纷争时期，战乱频繁，人心惶惶，苦不堪言。后来出现了宋太祖和宋太宗两位英主，南征北讨，终于统一了中原和南方，但北方仍有辽、西夏政权的并立，西方和西南方又有未能直接管辖的吐蕃和大理等。到了南宋时期，虽然金人兴起，灭了辽朝，但这种民族政权对立的格局并没有打破。成吉思汗兴起于蒙古草原，虽然灭掉了西辽和西夏，但未能灭掉金和南宋，仍然带着深深的遗憾离开了人世。窝阔台继承了成吉思汗的遗志，终于灭掉了他们以前认为天上人统治的金王朝，但对于历史悠久的南宋王朝仍是无能为力。只是到了忽必烈时期，才迅速灭掉了吐蕃、大理和南宋王朝，真正实现了全国的大统一。这个大统一，比起人们啧啧称赞的汉唐王朝来，有过之而无不及。汉朝的统一，可谓大矣，但北方的匈奴、东北的挹娄等地区，他无论如何也没有办法直接控制。唐朝的统一虽然有所发展，然北方的突厥、契丹和蒙古等民族的向心力还差一截。只有到了忽必烈的统一，这些地区才和内地一样，浑然成为一个整体，再也没有办法分割了。基本上保证了我国元明清以来的大统一，再也没有出现分裂割据的现象。《元史·地理志序》说忽必烈统一南宋以后的领土是“北逾阴山，西极流沙，东尽辽左，南越海表”。大体上与清朝乾隆全盛时期的疆域相等，奠定了我国统一的多民族国家的疆域基础，功不可没。
汉人最愿意讲正统，认为只有汉人建立的政权才是正统王朝，少数民族建立的政权不是正统王朝，是僭越。忽必烈有时也觉得少数民族总是受汉人直接或间接管辖，有些自卑。后来，蒙古的铁骑踏碎了汉人的河山以后，他又有些洋洋自得了，以为汉人也不过是那么回事，也不见得比自己高明多少。特别是契丹和女真人进入中原以后，他们开始改变汉人的正统观念，提出了谁入中原谁就是正统的思想。忽必烈觉得这种正统思想很适合自己，因而也拿来作为对付汉人的武器。在这种思想指导下，忽必烈以为，不应该总由汉人来管我们少数民族，其实，少数民族中的杰出人物出来管汉人也不是不应该的。有了这种思想，忽必烈不再自卑了，不但为其一统天下而高兴，也觉得心安理得了。
有时，忽必烈也想，不管你汉人怎么认为，自己总以为大统一还是比分裂好。大统一的局面，可以为人们提供一个比较安定的生产和生活环境，有利于经济的发展，也有利于南北经济文化的交流。首先，对我们蒙古族等少数民族来说，要获取我们喜爱的丝绸、瓷器和粮食等，就十分方便了。其次，对他们汉人来说，也不是一点好处也没有，他们要想得到我们少数民族的牛羊肉、皮革制品、弓箭、马鞍等，不也是非常方便吗？在大统一的条件下，各族都把自己的优秀产品拿来交换，不但可以互通有无，还可以推广先进技术，对发展经济和文化只有好处，没有坏处。当然，忽必烈进行武力统一，并不是想给各族人民办多少好事，而是为了自己更多地索取。但客观上确实起到了促进经济发展和南北经济文化交流的作用。
忽必烈一统天下，对于国内民族融合也起到了促进作用。随着蒙古大军南下，一大批蒙古人和色目人涌入内地，他们有的因为当官而择地卜居，有的因为镇戍而定居营家，有的则因为经商、侨寓、罪徙或充工匠、奴仆等而随处与汉人混杂而居。在天下一统的形势下，也有一大批汉人来到边疆少数民族地区。各族人民杂居相处，互相学习生产和生活经验，互相了解，互相帮助，互相通婚，既增进了民族间的感情，也逐步融合到一起。早先进入中原的契丹人、渤海人和女真人，这时已与汉族区别不大，他们当中不少人都改称了汉姓，人们已经把他们称为汉人了。特别是一批批信奉伊斯兰教的中亚、波斯和阿拉伯人来到我国定居，与维吾尔人、汉人通婚，学习汉族的语言文字等，逐步形成了回回民族，为中华民族大家庭增添了新的血液，做出了新的贡献。
这些，都是在忽必烈一统天下的条件下实现的。所以，忽必烈统一全国的客观作用不应该低估。