1273年，忽必烈依汉制册立真金为皇太子。但遗憾的是这位皇太子却没能活过他的父亲。1285年，在一次意外事故中真金皇太子去世了。在这以后，忽必烈这位苍老的国君再也没有册立太子。一直到1293年，当他意识到自己的时日不多的时候，才把已故皇太子真金的旧印交到这位太子最小的儿子铁穆耳的手上。但这种举动并不是一个合乎继承法的仪式，仅仅是一个象征着要将帝位授予此人的举动而已。
忽必烈这种不正规的册立方法，无论是在蒙古人，还是在汉人的眼里都是无效的。按照蒙古人的旧俗，大汗去世后，则将由皇后临朝摄政，再择期举行忽里台大会，由宗室勋旧“协谋推戴”新汗登位。在这样的过程中，皇后本人的意志就变得十分重要，甚至可以影响到新君的人选。当年贵由的登基就得到了其母乃马真后的全力支持，以至于撤销了窝阔台生前的已定人选。
察必皇后逝世后，南必被立为皇后。忽必烈晚年，由于身体的衰老，她在朝中的权势日益增大，大臣们经常看不见大汗，各种事情多由南必皇后转奏。而南必有一个儿子，名叫铁蔑赤。因此，她是不会轻易同意铁穆耳继承汗位的。
不过忽必烈逝世之前已经意识到了这一点，他又派遣内侍对太子遗孀真金妃说：“张留孙是我的旧臣，他一定能好好侍奉太子的。”但忽必烈清楚只这样做是不够的，必须要有一名强有力的大臣支持才行。1293年12月，他将驻守大同的大将伯颜召回，决心采用中原王朝以顾命大臣宣布遗诏的方法，来实现自己的意志。伯颜是平宋战争的主帅，这时又以知枢密院事掌天下兵权，所以他是在这关键时刻擎起帝国大旗的最佳人选。1234年1月，伯颜抵达大都。从这一天起，直到忽必烈去世，他与中书平章政事不忽木便始终不离忽必烈左右。伯颜回京十天后，忽必烈病逝。
伯颜与不忽木于是便以顾命大臣的身份控制住了朝廷局势。伯颜“总百官以定国论”；由不忽木主持引枢北葬等治丧事宜。后来，经过伯颜的一番努力后，最终将铁穆耳拥登汗位，完成了忽必烈的遗命。在中国的史书中称铁穆耳为成宗。
成宗朝的军国重臣，基本上全是忽必烈朝后期政府的原班人马，这就从人事方面保证了按忽必烈的遗规实施“持盈守成”的国策。成宗即位后基本上停止了大规模的对外战争。1295年停止对安南的征伐，释放安南国陪臣陶子回国，遣使持诏抚慰，将1293年忽必烈任命到安南任平章的大将刘国杰调到了湖广做行枢密院副使。1298年，成宗又拒绝了大臣们建议出兵日本的计划，并在这一时期将西北防线内移，减少了与西北藩王间的摩擦。成宗的这一系列维护安定的军事举措，使饱受战争摧残的社会经济得到了恢复，“世道清平，人获休息”。对长期用兵不断的元廷来说，成宗的守成政策使元朝摆脱了忽必烈统治后期长期陷于泥沼的局面，但这并不是说成宗是一个毫无武功建树的帝王。成宗用兵的宗旨可以概括为“既不开疆，也无丧土”，安定国内政治局势，恢复经济生产，维护忽必烈统治时期的疆域，成为他的统治宗旨。
1298年，缅国发生内乱，阿散哥也兄弟势力增大，攻入缅都蒲甘，杀死缅王及世子宗室等百余人。缅王是经元政府册立的，被擅自废立杀戮的举动引起了成宗的警觉。忠于缅王的地方官员和出逃的缅王王子，也都向成宗告发阿散哥也兄弟藐视元朝对缅的宗主权力。1300年，元军12000人，取道永昌腾冲，10月入缅作战，12月围困阿散哥也的木连城。元军围城两个月，1301年2月末，木连城中薪食俱尽。阿散哥也用重金贿赂元军将领高阿康、察罕不花等人，使元军以“天热瘴发”为由，擅自引兵撤围。同时阿散哥也派人入朝请罪，承认元的宗主权。这一年秋天，成宗处死了高阿康、察罕不花，但也认可了阿散哥也统治缅国的事实。
成宗即位后，并没有放弃对蒙古草原的控制。他从北边回朝继位后，任命叔父宁远王阔阔出镇守北方。1298年冬，阔阔出遭都哇偷袭兵败。第二年，成宗令皇侄海山出镇北边。1301年秋，元军与海都、都哇于金山附近的铁坚古山会战，元军先胜海都。后与海都、都哇联军再战，互有胜负，但都受到了重创。海都在会战中负伤，不久死去。海都死后，1303年，都哇“先众请和”。接着，他以元廷支持为后盾，向察八儿要求归还海都从察合台汗国夺去的草地，并胁迫他与元廷约和。同年秋，都哇、察八儿约和使臣到达元廷。又过一年，都哇、察八儿又联合伊利汗、钦察汗王廷与元朝约和。自此，元西北边境战火基本平息，从忽必烈与阿里不哥争位以来的蒙古内部纷争告一段落。
历史有时候也会发生凑巧的事。成宗和忽必烈一样，他所册立的太子也先他而去。1305年6月，成宗在病中册立德寿为皇太子。只半年，德寿竟先成宗死去。跟着，仅一年多，成宗也去世了。成宗去世前，并没有来得及再立皇太子。这就使忽必烈处心积虑初步解决的汗位问题重新显露了出来，一场觊觎汗位的激烈角逐不可避免。
成宗后期，卜鲁罕干政，与许多回族大臣深相结纳，打算临朝称制。他与手握重兵，欲以世祖嫡孙的身份争夺皇位的阿难答联手，为共同对付出镇漠北的海山和他弟弟爱育黎拔力八达而结为联盟。当时人称这一冲突为“回邪诗张，势挟中闱”。
争夺大汗位的另一方——海山兄弟，长年统兵漠北，战功卓著，又是真金嫡孙，因此颇得漠北诸王将领的拥护。而海山弟爱育黎拔力八达因喜好汉学，所以也得到了元朝大多士人的青睐。这样一来，海山兄弟在这场争夺中就明显处于优势。
按蒙古旧俗，大汗死后，应由皇后摄政，主持选立新汗的忽里台。但为防止得到多数人拥护的海山得势，卜鲁罕企图控制朝议以达到他的个人野心。而这种野心被右丞相哈剌哈孙在相当大的程度上遏制住了。成宗死后，哈剌哈孙立即秘密遣人通知漠北的海山。然后哈剌哈孙收回了京城百司的所有符印，封在府库内，自己称病在家。卜鲁罕的内旨一天下达数次，但都被他装聋作哑搪塞过去，不下发任何公文。这样一来，就使卜鲁罕筹划临朝称制的计划，与皇后集团想以左丞相阿忽台取而代之，控制中书省的计划破产了。
海山接到成宗去世的消息后，本准备立即回朝。这时他获悉答己与爱育黎拔力八达已经回到大都，于是依仗手中握有重兵，对帝位志在必得，便决定先在和林观望动向。
爱育黎拔力八达到达大都后，得到了朝廷官僚中枢的支持和配合。他先派李孟装扮成医生与称病的哈剌哈孙取得了联系。不久，哈剌哈孙诈称海山遣使至京，要阿难答、卜鲁罕、阿忽台等人朝议事，最后将他们一网打尽，全部拘捕。
1307年5月，海山会答己、爱育黎拔力八达于上都，在忽里台大会上就任新汗，是为武宗。
武宗继位后，朝廷中枢用人，差不多都在西北从征的蒙古、色目将领中挑选。拥立他登基的哈剌哈孙也被调往和林任职，将乞台普济升为中书右丞相，被封为“安吉王”。武宗感到，成宗后期以来，元代社会政治和经济问题正逐步恶化，所以他开始调整成宗时期的国策。对于武宗的施政，可以用“惟和惟新”四字概括。
武宗执政的各项措施的出发点是好的，但他的才能似乎有些不足。他的“惟和惟新”的政策，其实是想用大量赏赐笼络群臣，发行新钞，实行重利经济，以满足政治上的需要。这种政策一施行就出现了问题。
武宗主政不久，就开始对诸王大加赏赐，结果赏赐的朝臣还不到一半，两京府储就已用光了。以后，请赏者仍络绎不绝，财赋不支，武宗只好用滥封爵位的办法作为补偿。忽必烈时非嫡系子孙从不封一字王。武宗时，晋封一字王位的人多达十五六人，甚至驸马也给封了一字王。这一时期朝廷中官吏的数量增多，官职提高，朝纲混乱，名位不清。有记载说：“天子即位，加恩近臣，佩相印者以百数。”这一时期，什么道士、僧人、唱戏的名角，只要武宗高兴，都被授予左丞、平章、参政一类的官职。一时间国公、司徒、丞相满朝都是。当时人评价说：“自有国以来，名器之轻，无甚今日。”选法的混乱必然会促成吏治的紊乱。朝廷制诏变更无常，地方官吏往往擅自离职，去经营自己的买卖。朝中正在讨论未决的事情，也经常泄露到民间，甚至到了诏书的稿子还没写完，“奸民已复群然诵之”的地步。武宗通过各种途径开辟财源，增加国入。这一点与传统儒家中的注重节流的观点正好相悖。儒臣们一直通过各种方式批评和阻挠武宗错误的理财措施，但都毫无效果。1309年8月，因元钞贬值发展到难以收拾的地步，武宗下诏立尚书省整顿财务，铸尚书省印，进行财政改革。可由于尚书省乱发“大银钞”，反而造成了更严重的通货膨胀。后来改发“至大通宝”重新进行货币改革，才稳定住局势。
1311年1月，武宗因沉溺酒色，在位还不到4年就死去了，时年31岁。武宗的弟弟，爱育黎拔力八达以武宗册立的储君身份入朝主政，罢尚书省。武宗的“惟新”政治在推行不到一年半后及时地废止了。
但武宗所遗留下的诸多问题，却给元朝日后的发展带来了极为不利的影响。也可以说，元朝自此逐渐走向衰败。