也就是这一年的六月，蒙哥为了对南宋形成完整的军事包围，命忽必烈率兵征大理。他带领姚枢、刘秉忠等随行。十二月过黄河，经陕西，出六盘山，并命姚枢经营关陇地区。姚枢在这里劝农桑、兴学校，使之呈现出一派兴旺的景象，既为忽必烈南下提供了可靠的后勤保障，又使忽必烈看到了汉法的巨大效力。然后，忽必烈分兵三路南下，“经行山谷二千余里”，亲自乘革囊渡江，攻陷了大理城，追杀了大理国王段兴智和主将高祥等人，收取了大理的八府、四部、三十七郡。留下大将兀良合台驻守，于公元1253年（宋宝祐元年）12月班师，公元1254年（宋宝祐二年）秋天回到滦河驻地。忽必烈这次由北向南出征，经大渡河，大雪山和金沙江，实在是中国军事史上的一次壮举。
忽必烈在军事上做出了巨大的成绩，在中原治理方面也取得了显著的成效，这使他在汉人以及蒙古贵族中的威望日增，他用汉法治理河南、陕西一带，也直接损害了蒙古贵族和西域商人的利益，甚至影响了蒙哥的财政税收，这样一来，谣言四起，说忽必烈心怀异志，想自立为王等等。俗语说：众口铄金，积毁销骨，蒙哥也开始怀疑起忽必烈来。公元1257年（宋宝祐五年），蒙哥撤掉了忽必烈的军权，同时还派一些亲信大臣到陕西一带催要钱粮，对忽必烈的部下，妄加罪名，肆意迫害。忽必烈在这种危难的处境之中，稍有不慎，就可能全盘皆输。在姚枢等人的劝告下，忽必烈把妻子和儿女送到蒙哥汗那里做人质，以表明自己并无异志。在这年的秋天，忽必烈还亲自去朝见蒙哥汗，兄弟俩终于尽释前嫌，重归于好。
出于消灭南宋、统一全国的需要，蒙哥汗又让忽必烈重掌军权。公元1258年（宋宝祐六年）2月，蒙哥决定出征，留幼弟阿里不哥守和林，自率西路军进攻四川，命塔察儿、张柔率中路军攻长江中游，命忽必烈率东路军攻黄州一带，命留守在大理的兀良合台攻南宋的南侧，形成了南北夹击乃至包围之势。蒙哥所部进攻四川的合州钓鱼城，因城建在山上，城防坚固，军民同心，久攻不下。在攻战之中，蒙哥亲冒矢石，结果身受重伤，不久，伤发而死。
蒙哥去世的消息既传到了忽必烈军中，也传到了留守和林的阿里不哥那里。阿里不哥因驻守后方，享有很大的主动权，在一些人的策划下，准备继承汗位。但阿里不哥不论在个人才能还是文治武功上，都远不如忽必烈。他为了防止忽必烈带兵北上争位，便秘密调动大漠南北的军队，准备阻击忽必烈。忽必烈的妻子察必看出形势有些不妙，就连忙派人密报给忽必烈。忽必烈在处理这件事上充分听取了臣下的意见，郝经上《班师议》，认为应当先与南宋秘密媾和，然后迅速班师。否则，阿里不哥一旦宣称有蒙哥汗的遗诏，忽必烈虽有重兵，也难得回去。当今之计，应先派人截住蒙哥汗的灵车，收夺皇帝的印玺，并通知诸兄诸王会葬蒙哥汗。然后自率轻骑，日夜兼程，奔赴燕都，稳定中原一带的局势。于是，忽必烈做出要猛攻南宋的姿态，贾似道便慌忙求和，在与南宋订立了和约之后，忽必烈率师北还。
到达燕京时，忽必烈就发现脱里赤正在征集训练军队，脱里赤托辞是受了先帝之命而为，忽必烈已看清了阿里不哥的真实意图，就解散了脱里赤队伍，并不理阿里不哥的会葬蒙哥汗的通知，率军来到开平。在取得了相当数量王侯的支持下，忽必烈抢先一步登上了汗位。
忽必烈像所谓“先发制人，后发人制”，阿里不哥一见忽必烈称汗，自己反而落后，就连忙召集一些大臣诸王，宣布继承汗位。正像当时的俗语所说：
“一口锅里煮不下两个羊头”，兄弟俩之间发生了战争。战争的局势一开始就较为明朗，一方面支持忽必烈的诸王较多，具有雄厚的军事势力；另一方面，忽必烈的军事、政治才能和经验也远比阿里不哥丰富；其三，是忽必烈占据了广大的地盘，尤其是中原地区，取得了巩固的根据地，因而经过多次较量之后，忽必烈终于取得了胜利。1264年7月，阿里不哥在大败之后，看看没了希望，只得带着身边的一些人来投忽必烈，表示归降。忽必烈问他：“你凭心而论，我们兄弟俩谁该继承汗位呢？”阿里不哥说：“原先我是对的，现在大汗您是对的。”这话的意思只是承认忽必烈战胜了，却并未承认忽必烈继承汗位是正确的。忽必烈听了一笑，就赦免了成吉思汗的子孙，其余叛臣被斩首。
忽必烈称汗以后，积极推行汉法，他在相当于今天的就职宣誓的即位诏书中，竟公开宣称成吉思汗在五十多年的创业生涯中“武功迭兴，文治多缺”，认为必行汉法，乃可长久。在他后来的施政实践中，也确实把施行汉法摆在了第一位。他所施行的汉法，主要包括以下几个方面：
其一，鼓励农业发展。这一条政策，对于转变游牧民族的观念，安定汉族人心，稳定社会秩序，促进社会的发展有着很大的作用。他先后设立了许多劝农、督农的行政机构，“劝诱百姓，开垦田土，种植桑枣”，并于1264年起，把“户口增，田野辟”当做考核官吏成绩的重要标准，并采取了许多招集逃亡、限制蒙古军占良田为牧场的措施。十多年后，这些措施产生了很好的效果，中原地区久遭破坏的农业生产基本得以恢复。
其二，承认汉族文化是主导文化。设立官学，用汉族文化教导训诫蒙古贵族子弟。忽必烈对许多大儒礼敬有加，并大量任命汉族地主知识分子做各个部门的官吏。公元1267年（元至元四年），忽必烈在上都重建孔子庙，并亲往祭祀。这些措施，对于蒙古人取得汉族人的好感和信任，起了很大的作用，也有助于稳定汉族的人心。
其三，仿照汉族先朝的体制，确定中央集权制的专制统制，建立完备的国家机构。在这以前，蒙古人虽有一套国家机构，但比较简单，只适于军事作战，不适于复杂的国家管理。忽必烈就命刘秉忠等人考定前代的典式，制订出了一套完备的制度，即使对于故老遗臣，山林隐逸也多所录用，忽必烈的这套做法，很适合汉人的心理，让汉人觉得自己并非是在异族人的统治之下。
其四，建立国号、年号和礼仪制度，公元1264年（元至元年）8月，阿里不哥归顺之后，忽必烈改年号为“至元”，又将“大蒙古”国号改为“大元”，取《易经》“大哉乾元”之意。改开平府为上都，改中都为大都。
他这一系列措施，均遵从汉制，充分表现了各民族融合的趋势。
忽必烈成为元世祖，成为元代的真正的开国皇帝。但就在他大行汉制的时候，山东淮南的行政长官李璮发动叛乱，李璮在山东一带经营了三十多年，拥有重兵，且根深蒂固，他的叛乱极大地震动了忽必烈，经过半年的艰苦奋战，忽必烈才镇压了这次叛乱。从李璮之乱中，忽必烈吸取了很多教训，自此以后，他采取了许多有效的防范措施，以免汉人发动叛乱。
在此之后，忽必烈唯一的心头大事就是消灭南宋。在蒙哥汗伐宋的时候，因为南宋沿长江天险设了三个重点防区，上游的重庆一带，中游的襄阳一带和下游的建康（南京）一带，以便首尾照应。所以，蒙哥汗就采取三路出击的办法。到了忽必烈时期，上游和下游的防范比较空虚，无力相互支援，南宋降将刘整就建议由襄阳直取鄂州，从中路进逼南宋。忽必烈接受了这一正确建议，忽必烈从公元1268年（元至元五年）开始，就派阿术、刘整进攻襄阳。
襄阳守将吕文焕苦战不退，城内死伤殆尽，粮草皆无，而南宋小朝廷中奸臣贾似道弄权，不予援救，不得已，吕文焕只好出城投降，襄阳被围五年方下，是蒙古军自征战以来费力最大的一座城池。
元军节节推进，至公元1275年（元至元十二年），贾似道无法，只得亲带十多万精兵到芜湖督阵，他根本不思抗元，而是巴结元丞相伯颜，乞求议和。伯颜认为贾似道上次撕毁和议，拒不进贡，还扣押使者，便不再应允，而是率军猛冲贾似道。贾似道临阵脱逃，乘小舟奔回临安，结果军队大乱，粮草尽为元军所夺，军士也所剩无几。由于这次大败，贾似道引起了公愤，被朝廷贬黜，在赴任所的途中，被押解官摔死在厕所里。此后，元军三路人马不断南下，南宋完全失去抵抗能力，不断派使求和，先表示可向元人称侄纳币，称侄不许，又求称子孙，再不许，求称臣。后来见元人旨在灭宋，宋恭帝只有出降。公元1276年（元至元十三年）5月，元人把宋恭帝押至大都，忽必烈废其帝号，降为瀛国公。
宋端宗即位，又被追杀在海岛之上，陆秀夫等南宋大臣又尊八岁的赵眘即位，又被元军困住，陆秀夫不愿受辱，负帝眘投海而死。至此，南宋被忽必烈灭亡。
在忽必烈的晚年，趋向于保守和穷兵黩武。忽必烈信任大臣阿合马，阿合马以善能“理财”著名，实际上是破坏忽必烈的汉制，按照蒙古贵族的一贯旧的做法勒逼财物。在阿合马专权时期，许多官府的职能被破坏，各地政府不得不按阿合马的规定把财物源源不断地送交中央，许多汉族地主叫苦不迭。虽然有许多大臣弹劾阿合马，但因忽必烈离不开阿合马替他搜刮财物，所以一直未加处置。益都千户王著痛恨阿合马的专权残酷，就联络了八十多人，密铸了一个大铁锤，趁忽必烈外出，骗出阿合马，将其锤死。当“平乱”之兵赶来时，王著泰然就缚，还慷慨激昂地说：“我为天下人除害，如今被缚就死，死不足惜，将来会有人记述我的事迹的！”阿合马死后，忽必烈又起用卢世荣、桑哥等人理财，均被杀死。
忽必烈晚年的政策，逐渐露出了其贪婪残暴的面目。在穷兵黩武方面，表现得极为突出。他先后出兵攻打周围的邻国，包括高丽、日本、安南、缅甸、占城乃至爪哇，这些战争持续不断，一直到忽必烈死去。
从这些无谓的战争可以看出，忽必烈确实还是代表了古代游牧民族喜欢征杀、酷爱掠夺的特点。
对于西北、东北诸王的叛乱，他也毫不容情。自阿里不哥取消汗号，归顺忽必烈后，支持阿里不哥的西北、东北诸王就没有停止过叛乱，忽必烈晚年花大力气平定叛乱，解决了边防问题，巩固了元朝的统一。公元1294年（元至元三十一年），忽必烈死，传位给皇孙铁木尔，是为元成宗。
说忽必烈智勇超人，是因为一方面倾慕汉族文化，专行汉制，以图长久，这是一个正确的决策，也是一个高明的决策，如果仍像成吉思汗那样统治中原和江南地方，势必连几十年的安定也无法得到；另一方面，忽必烈还算得上是一位军事家，他不仅能出谋划策，还能亲冒矢石、身先士卒，取得了许多战役的胜利。在中国历史上，像他这样文武全才的皇帝并不是很多。
忽必烈在顺世应时方面做得尤为出色，他把握住了“天时”、“地利”与“人和”三个方面。
蒙哥汗战死，蒙古国要立新汗，更重要的是天下大势是要立一位能推行汉制、逐步改进游牧民族弱点的全新君主，这是“天时”，这对忽必烈来说，是十分有利的。忽必烈当时手握重兵，且占有中原、关陇一带稳固的根据地，是为“地利”。第三条就是忽必烈有诸王的支持，又有能谋善断的臣僚，是为“人和”。三者俱占而能成为元世祖，是谓顺世应时。
在漫长的中国古代史上，许多朝代的建立都有这样一个有趣的现象：
开创者未必成功，后继者才能完成大业。
中国历史上的第一次农民大起义的烽火是由陈胜、吴广点燃的，但陈胜、吴广起义军来势虽猛，却很快被秦军镇压下去，陈胜、吴广也随之身亡。在陈胜、吴广起义的旋风里，项羽、刘邦也分别拉起了各自的队伍，在抗击秦军的过程当中，这两支队伍迅速壮大起来，最后灭亡了秦朝。后来项羽和刘邦经过四年的楚汉之争，刘邦战胜了项羽，建立了西汉王朝。
在反隋的农民大起义中，翟让、李密领导了瓦岗军，窦建德曾建夏国，杜伏威等人也领导了一支强大的起义军。这三支义军，把隋朝冲得七零八落，奄奄一息，但他们都没有得到天下，倒是后来反隋的关陇贵族李渊、李世民父子既镇压了农民起义军，又推倒了隋朝，建立了唐朝，开创了中国古代史上最为繁荣鼎盛的时代。
元朝也是如此，成吉思汗虽具雄才大略，也只是统一了蒙古各部落，称为大汗，到了其子孙的手里，才灭了金国，又灭了南宋，统一了中国，建立了元朝。
明朝的建立跟汉朝、唐朝的建立有极其相似之处。韩山童、刘福通首举义旗，创建红巾军，声势浩大，整个元廷为之震动，但他们没有成功，不久便败亡了。倒是其部下朱元璋率领义军一部度过难关，获得了发展，既推翻了元朝，又打败了陈友谅率领的另一支农民起义军，最后建立了明朝。
清朝的建立跟元朝的建立有十分相似之处。清王朝的奠基者是努尔哈赤，他跟成吉思汗一样，具有雄才大略，统一了满清的各个部落，但他虽称清太祖，实未统一全中国，真正的清朝的开创者，是他的后代，清太宗皇太极。元朝和清朝这两个入主中原的少数民族，均是先统一了自己的部落，经历了两三代人的艰苦奋斗才统一中国的。
其实，如果把汉朝看做西汉和东汉两个部分，不仅西汉建国是如此，东汉建国也不例外。西汉末年，绿林、赤眉起义的烽火烧遍了大半个中国，把新朝王莽的大军打得一败涂地。但最后成功的不是首倡义军的王匡、王凤和樊崇等人，而是随之起义的汉室宗亲、南阳豪强地主刘秀。
刘秀后来壮大了自己的势力，攻灭了义军，重建了汉朝，称之为东汉。
如此算来，中国古代竟有一大半王朝是以这种方式建立的，为什么开创者很难成功，而后继者却易于成功呢？其实，这并非上天不公，而是改朝换代的一种规律。看透了，其原因也很简单：第一，开创者首先对前一个腐朽的王朝进行了猛烈的打击，使其处于垂死的境地，为后继者提供了良好的基础。第二，开创者往往不是能够做政治家的人，只能振臂一呼，逞血气之勇，缺少一个淘汰选择的过程，又兼缺少经验，所以易于败亡。第三，后继者有三条优势，其一是继承了前人的基础，其二是继承了前人的经验，其三是领导者多是从艰苦的斗争中磨练淘汰而来，具备了做政治家的品格，有此三条优势，就易于取得成功。或许，上述的现象也算作是一条“历史规律”吧！
看看历史，真令人想起“前人栽树，后人乘凉”的俗语，首创者不能成大功，后继者才得建大业，中国古代改朝换代的这一“历史规律”
恐怕很难否认。其实，岂止是中国古代如此？岂止是改朝换代如此？其他许多事情不也有相同之处吗？正眼看看历史，也许会少些浮躁情绪：
历史会为许多人提供各种不同的机会！
