在元军大兵压境的形势下，南宋朝廷内部矛盾重重，主战主和举棋不定。虽然朝廷屡次诏令各地宋军入卫临安，终因元军全面进攻，荆湖、川陕战场宋军自顾不暇，两淮宋军被元军阻隔无法渡江赴援，只有郢州（今湖北钟祥县）张世杰、江西文天祥等将帅和两浙、福建部分厢禁兵到达临安守卫。但这些小规模增援根本无法扭转整个战争局面。
1275年5月，宋廷命主战派张世杰率军出击元军外围防线，没能打通。6月，淮东制置使李庭芝命姜才等打通援救扬州的通道，两军在扬子桥激战，宋军死伤万余人，姜才只带数骑逃回扬州。
为确保临安，宋廷组织焦山之战。但张世杰率领的水师在焦山江面，在元军的两面夹击下，阵势顿时大乱，宋师全军覆没，损失战舰700余艘。焦山之败，宋朝军队损失殆尽，朝廷或主议和，或主南逃，分崩离析，一筹莫展，南宋灭亡指日可待了。
1275年七月，忽必烈命伯颜率领元军直逼临安。这年十一月，伯颜分兵三路会攻临安，西路由参政阿剌罕，四万户总管奥鲁赤率领蒙古骑兵出建康，向溧阳、独松关（今浙江安吉县东南）进军；东路由参政董文炳、万户张弘范、都统范文虎率水师沿江入海，向海盐、澉浦（今浙江海盐县南）进军；中路伯颜带领诸军，率水陆两军出镇江，向常州、平江（今江苏苏州市）进军。
西路军主帅阿剌罕率军南下，直趋溧阳，遭到南宋守军的抵抗，结果宋军损兵折将，残部南撤。元军乘胜追击，在溧阳西南银林东坝再次打败宋军。元军在追击途中受到南宋援军的阻击，双方展开激战，后来元军派蒙古骑兵冲杀，宋军抵挡不住，突围南逃。溧阳之战，宋军损失将校70余人，士卒近2万人，伤亡惨重。
十一月下旬，西路军逼进建康通往临安的要隘独松关（今浙江安吉县东南），南宋守将张濡率兵北上阻击元军，与元军骑兵交战。宋军虽是精兵强将，但只有数千人，而且都是步兵，虽然奋勇冲杀，但却难以阻挡强大的蒙古骑兵，终于被击溃，主将张濡被杀，士兵死伤2000余人，元军控制了临安的北大门。
中路军伯颜率兵进攻常州，常州是拱卫临安的前阵，是元军整个攻取临安计划的关键，伯颜派兵击溃宋增援部队后，亲自指挥攻城。
元军在城南筑高台，把炮放在台上向城内猛轰，又用火箭射入城中，常州城内一片火海。伯颜命元军架云梯、绳桥攻城，元军攻入城内。
常州守将姚岩率将士浴血奋战，终因寡不敌众，没有外援而失败。姚岩、王安节等阵亡。
伯颜攻破常州后，派都元帅阇里帖木儿，万户怀都率兵攻无锡、平江，在元军大兵压境下，两地宋军投降元军。
东路水军以范文虎为先锋，顺江东进，由于长江两岸已无宋军把守，元军进军顺利。东路军出长江口后沿海商下，十二月逼近钱塘江口，从海道包围了临安。
1275年十二月，元朝三路大军近逼临安，随时准备攻占临安。
1276年正月，东路军董文炳一部登陆，抵达盐官县（今浙江海宁市），宋守军投降。
董文炳率东路军与中路伯颜大军会师，西路军阿剌罕也率部与中路军会师。在大军压境形势下，南宋朝廷一片混乱，丞相陈宜中请太皇太后出海避敌，张世杰、文天祥主张决死一战。宋摄政太皇太后谢道清拒绝张世杰、文天祥背城一战，以图求存建策，一面送益王赵昰、广王赵昺南逃，一面遣使赴元请降。二月初五，宋恭宗赵显率百官于临安降元。丞相陈宜中遁温州（今属浙江），张世杰、苏刘义等各率所部离去。
伯颜亲自入临安城安置宋廷人员，把宋帝赵显皇太后全氏以及其他朝官、宫廷人员监护起程，浩浩荡荡北上。至此，临安被元军攻取。
崖山战役
元军占领临安后，逃往南方的张世杰、文天祥等人则继续抗击元军，1276年6月14日他们在福州集合，为年仅七岁的皇帝赵昰举行登基仪式。同时封广王赵昺为卫王，陈宜中为左丞相兼枢密使、都督诸路军马，张世杰为枢密副使，陆秀夫为签书枢密院事，文天祥为枢密使、同都督。
赵昰做皇帝以后，元朝加紧灭宋步伐。蒙古军也开始向南推进。
畏兀儿人阿里海牙受命平定宋境的西南。他率三万大军，于1276年7月向现在的广西挺进。在途中，他攻下了长沙，到了第二年的4月，他已经一路打到了广西北部。
与此同时，在东部战场，蒙古军队在唆都的指挥下，一路追击南宋皇室残部。1277年，福州沦陷，宋端宗的南宋流亡小朝廷直奔泉州。张世杰要求借船，却遭到泉州市舶司、阿拉伯裔商人蒲寿庚拒绝，随即早有异心的蒲寿庚投降元朝。张世杰抢夺船只出海﹐南宋流亡朝廷只好去广东。宋端宗准备逃到雷州，不料遇到台风，帝舟倾覆，端宗溺死。
端宗死后，由弟弟7岁的卫王赵昺登基，年号祥兴。赵昺登基以后，左丞相陆秀夫和太傅（太子的老师）张世杰护卫著赵昺逃到崖山，在当地成立据点，准备继续抗元。
不久﹐在现时广东和江西二省抗元的文天祥得不到流亡朝廷的支援，被张弘范部将王惟义在海丰县的五坡岭生擒，他因拒绝与蒙古合作而被处决。
1279年，元将张弘范大举进攻赵昺朝廷。后来在不久以前攻占广州的西夏后裔李恒也带领援军也加入战事。宋军兵力号称20多万，实际其中十数万为文官、宫女、太监和其他非战斗人员，各类船只千余艘；元军张弘范和李恒也有近十万人，战船数百艘。
这时宋军中有建议认为应该先占领海湾出口，保护向西方的撤退路线。张世杰为防止士兵逃亡，否决建议，并下令尽焚陆地上的宫殿、房屋、据点；又将下令千多艘宋军船只以“连环船”的办法用大绳索一字形连贯在海湾内，并且安排赵昺的“龙舟”放在军队中间。
元军以小船载茅草和膏脂，乘风纵火冲向宋船。但宋船皆涂泥，并在每条船上横放一根长木，以抵御元军的火攻。元朝水师火攻不成，以水师封锁海湾，使南宋军队的水源被切断。
二月初六日晨，崖门海域风雨交加，元军发动总攻，宋军血战至黄昏，最终战败。太傅张世杰护杨太后突出重围，左丞相陆秀夫携少帝突围无望，于是让妻子跳海自尽，并背负年仅九岁的少帝赵昺蹈海殉国。大宋后宫及群臣也纷纷投海殉国，七日，“浮尸出于海十余万人”。杨太后闻赵昺死，赴海死，张世杰葬之于海滨，然后也投海殉国。
至此，忽必烈粉碎了南宋王朝的残余势力。
元朝廷与蒙古诸王之战
蒙哥汗在位时各封国间的矛盾逐渐深化。除蒙古贵族内部矛盾外，由于各封国采用当地民族的统治制度和文化，使他们之间的差异越来越大，加上没有统一的经济基础，使各封国独立化倾向愈来愈明显。
1260年，忽必烈即位后，忽必烈与阿里不哥争夺汗位，先后召开忽里台，由于时间仓促，都没有召集东、西道诸王全部参加，只有个别在近旁的宗王参加，因此，他们即位的合法性受到质疑。阿里不哥称汗时，窝阔台之后王海都更是以忽必烈违制自立，起兵相助。元世祖忽必烈为得到西道诸王的支持，默认了他们对原直接管辖地区和财赋权益的占有，蒙古大汗只在形式上保留了宗主地位。
忽必烈战胜阿里不哥后，他试图通过控制中亚地区，进而恢复汗权，但是海都和察合台后王笃哇联络一些蒙古宗王，共同叛乱，寇扰西北。不久，东北的成吉思汗诸弟的后王乃颜等也与海都相呼应，起兵叛乱。自元世祖忽必烈开始，直到元成宗大德十年，元廷经30多年斗争，花了很大力量，才将西北和东北蒙古宗王的叛乱平息。
海都是窝阔台第七子合失之子，被封于海押立（现巴尔喀什湖东卡帕尔城附近）。海都自以为是太宗嫡孙，元室大位当属于己，但却被蒙哥剥夺，因而一直心怀不满。在忽必烈与阿里不哥争夺汗位时，他是阿里不哥的支持者。阿里不哥归降后，忽必烈屡次召其入朝，并厚加赏赐，以示优容，他始终托词不入，继续抗命。在术赤诸后王的支持下，海都占据叶密立河（今新疆额敏河）一带原窝阔台、贵由的封地，控制了察合台汗国，成为号令诸王的首领。
1269年，海都会同西北蒙古诸宗王在塔剌思河畔开会，分划河中地区的权利，宣誓保持游牧生活和蒙古传统的风俗制度。1274年，海都援立笃哇为察合台汗。两人公然置元廷命令于不顾，骚扰天山南北诸地。
海都这种明目张胆的对抗，终于激怒了忽必烈。1275年，忽必烈下令追收赐给海都的金银符，同时派北平王那木罕率领元军镇守阿力麻里（今新疆伊犁附近），以抵御海都的侵犯。第二年，正当元军主力仍在江南与南宋残余势力作战之际，随同那木罕出镇西北的蒙古宗王昔里吉（蒙哥之子）、脱脱木儿（忽必烈弟岁哥都之子）、明理铁木儿（阿里不哥之子）等，举兵叛乱。他们奉昔里吉为主，把那木罕抓起来送给海都，但海都拒绝与昔里吉合兵。此后，昔里吉等肆虐岭北和西北地区，东犯和林，劫走成吉思汗大帐。元至元十四年（1277年），昔里吉率军东进，驻牧在应昌（今内蒙阿巴哈纳尔旗东南）的弘吉剌部首领只儿瓦台和六盘山的霍虎起兵响应，一时漠南大震，居庸关以北告警，形势日益严重。忽必烈立即调集军队进攻只儿瓦台，很快将其击败活捉。同时，下令南征大军主帅伯颜率军北上。元军在土兀剌河（今土拉河）、斡耳寒河（今鄂尔浑河）大破昔里吉军，收复和林；陕西元军也将在六盘山起兵响应叛军的霍虎击败。元军继续西进，重占岭北和西北地区。后来，反叛诸王由于内部发生争吵和分裂，在伯颜大军的打击下无处存身，便在1283年归降忽必烈。第二年，被囚禁的北平王那木罕也被放回。
昔里吉等人的叛乱被平定后，元廷仍面临着海都和笃哇的威胁。
他们屡次连兵入犯，出没金山（今阿尔泰山）东西、天山南北。忽必烈命伯颜总领重兵镇守西北地区，继续与海都、笃哇对峙。
海都为推翻忽必烈的统治，决心将西北的叛乱扩展到东北，以使忽必烈陷于两面作战、疲于应付的境地。在他的策动下，1287年，原本对忽必烈就心怀不满的东道蒙古宗王乃颜（成吉思汗幼弟斡赤斤之玄孙）、哈丹（成吉思汗弟哈赤温之孙）等宗王起兵4万反元。海都曾答应以10万人相助，相互策应。忽必烈得知乃颜反叛，针对东西叛王企图联合的趋势，一面派伯颜进据和林，命西北、漠北的元军坚守阵地，以阻止海都军队东来，一面亲率大军带病征讨乃颜。双方经过激战，乃颜终于兵败被俘，哈丹等投降。后来，哈丹等又叛，并率残部流窜到高丽境内。元军追入高丽作战，1291年，哈丹兵败自杀。
在乃颜叛乱时，海都曾连年窜扰，以声援东北宗王。1289年，海都军东进，又占和林。忽必烈马上把注意力从东北转向西北，调集军队，亲征海都。海都闻讯放弃和林，率军西遁。此后，元军在西北地区展开大规模攻势，海都的势力渐被逐出按台山（今阿尔泰山）之外。
1289年四月，忽必烈去世，皇太子铁木耳即位，是为元成宗。
铁木耳痛恨海都、笃哇叛逆，对连年战争所造成的军民涂炭深有所感，决心平息30多年来成吉思汗子孙自相残杀的战祸。在作战指导上，他一变过去的消极拒止叛军进攻而为积极的进剿，并据此将勘乱兵力作了重新布置。在经过三年的军事准备之后，铁木耳命大将床兀儿率大军主动进剿。元军势如破竹，几次大败海都、笃哇军，迫使其远逃边外。1301年，海都不甘失败，重整兵力，率窝阔台、察合台两系诸王40万人，倾巢南犯，进迫和林。皇侄海山领命率兵分三路迎战，一举将笃哇军歼灭。海都身负重伤，被迫还师，死于退军途中。
海都死后，笃哇失去依靠，无力再与元廷继续抗衡，于是派使臣“请命罢兵，通一家之好”。1301年十一月，笃哇亲赴和林，向铁木耳请罪。历时30余年的蒙古诸宗王的叛乱，至此终于平息。
远征日本惨败
忽必烈即位后，忽必烈先后五次遣使招抚日本，希望日本向他称臣纳贡。掌握日本真正权力的镰仓幕府断然拒绝了蒙古。
1272年春，忽必烈选派特使赵良弼前往日本，这是蒙古第五次派使团到达日本。10月，赵良弼在九州岛东岸的今津町登陆。当他觐见日本天皇的要求被粗鲁地拒绝后，他发出了最后通牒：日本天皇只有两个月的时间对忽必烈的信函作出反应。幕府拒绝任何妥协，他们把中国特使驱逐出境。幕府的粗暴无礼被描述为“等同于宣战”。
1273年6月，赵良弼返回中国，向忽必烈报告了这次出使经过。
同时，赵良弼也描述了他在日本受到的羞辱，这深深地激怒了忽必烈。
而在赵良弼返回前几个月，蒙古人刚刚在襄阳取得了征宋战役的重大胜利，因此忽必烈可以抽调部分军队前去征讨日本。
忽必烈的征日准备工作进行了相当长的一段时间了。他命令高丽人制造船只，运送他的军队横跨日本海，从日本列岛的最南端发起攻击。1274年11月，他派遣了一支由蒙古人、汉人、女真人组成的1.5万的军队和6000名高丽士兵，由大约7000名高丽水手引导，从合浦（在现在的韩国釜山附近）出发开往日本。蒙古军分乘三百艘大船和四百到五百艘小船，首先在对马岛和壹岐岛登陆，轻易地荡平了驻守在那里的日军。但是，忽必烈派往日本的军队无论规模上还是实力上都不足以彻底扫平日本列岛。他肯定低估了日本人的抵抗能力。
最关键的战斗在九州进行。当时日本人并没有组织一支强大的军队投入战斗，而且他们根本无法对付蒙古人的远程武器，包括十字弓和各种各样的弹射器。他们的指挥官也缺乏实战经验，与身经百战的蒙古统帅无法相比。所以，当蒙古军于11月19日在九州东岸的博多登陆时，日本人处于绝对的劣势。蒙古军在进军之前鼓乐齐鸣，其战阵和攻击方法使得日本人毫无招架之力。第一晚的战斗就使日本军队遭受了人员和装备的重大损失。
但大自然为日本人提供了更好的保护。就在同一天晚上，海面突然起了风暴。高丽水手马上对蒙古将领说，他们必须回到船上，把船开往海上，直到风暴消退。否则，他们的船只就会与岸边的岩石相撞而沉没，那样，他们将失去唯一的撤退工具。蒙古人勉强同意了，并开始从博多撤退。一些日本人追击并杀死了一些正在撤退的蒙古兵。
然而，那天晚上蒙古兵遭受的大多数伤亡都发生在海上。狂风、巨浪和礁石把几百艘船只击成了碎片。根据一些记载，蒙古军有1.3万人因此丧生。日本人因这场风暴而大难不死。蒙古人的远征以彻底的失败而告结束，残余的蒙古军驶回了老家，向忽必烈报告了这次惨败。
