当旭烈兀向西方扩展蒙古势力时，蒙哥正在继续进行着征服南宋王朝的计划。他之所以急于征服南宋，部分原因是由于南宋正在不断蚕食蒙古控制的土地。例如，在他继位之前不久，南宋军队刚刚袭击了位于今河南省的洛宁县。因此，蒙哥和他的军事幕僚决定采取一个新的战略，从东到西同时开辟几条战线。直接由北向南实施攻击是不够的，很可能导致失败，从西部发起进攻则将对这个汉人王朝造成威胁。但是，位于现云南省的大理王国构成了一个障碍。蒙古人需要首先平定这一地区，然后以它为基地，对南宋发起突袭。1252年，蒙哥选派他的弟弟忽必烈率领一支远征军深入偏远的大理。
大理是由形形色色的少数民族组成的王国，但几个世纪以来，汉人不断地向那里迁徙。这是中原王朝扩张的合乎逻辑的步骤，因为只要控制了这片疆土，他们就能够畅通无阻地与缅甸、南亚通商。因此，征服大理不仅仅是蒙古人的目标，它肯定也会是任何一个中原王朝的重要目标。
虽然忽必烈在1252年7月就接到了蒙哥汗的命令，但是直到1253年9月他才动身向大理进发。忽必烈为这次军事行动做了非常详尽的准备工作，不敢有丝毫麻痹大意。他相信，他的军队必须做好一切准备，克服遇到的任何障碍，而物资供应一定要充分，要保证做到应有尽有。进攻大理的准备工作之所以如此重要，是因为这是他的第一个重要任务。在他年届三十六岁的时候，他终于承担起了一个军事重任。他的父亲和哥哥都是在十几岁或者二十岁刚刚出头便担任了远征军的领导任务。由于忽必烈直到成年才得到一个展示自己领导才能的机会，因此他绝不希望失去这个机会。
蒙古领土上两位最有才能的人物跟随他开往大理，一个是兀良哈台，成吉思汗四杰之一速不台的儿子，他接受命令，将率领一支军队进攻西南；而儒学老师姚枢则与他的保护者和主人忽必烈一起前往大理。兀良哈台的作战经验远比忽必烈丰富，而他在战斗中的表现证明了他的价值。汉文资料将此次胜利归功于姚枢，认为他的建议对减少杀戮、促使大理投降起到了决定性作用。但即使他的忠告对这次战役的成功起到了一定作用，中国史学家很可能夸大了他的作用和他的建议的效力。
1253年夏末，忽必烈认为他的准备工作已经就绪，可以去完成他的使命了。于是他在临洮（今陕西省西北部）集结军队，然后开始向南进军。在到达云贵高原之前，他和他的军队必须横越崎岖不平的山地。他们需要穿越四川才能到达大理王国的河谷地带。三条大江环绕着大理王国，它们是萨尔温江（中国境内称“怒江”），湄公河上游（澜沧江）和长江（金沙江）。从临洮出发前，忽必烈派遣了一个由三位使节组成的使团前往大理，要求大理国王投降。大理国王段兴智实际上只是一个傀儡，实权掌握在大臣高泰祥（又名高祥）手里。如何回应忽必烈的要求取决于高。可惜的是，高的决定对他个人和大理都是很不幸的，他竟然把三个使者全部处决了。
在这种情况下，忽必烈别无选择，只能采取报复行动惩罚大理。使者的被杀更加刺激他下定决心，一定要严惩这些西南人。他征服大理的战略既简单又富于欺骗性：兀良哈台率领他的军队从西部开往大理，忽必烈则直接与敌人交战，几位亲王则率领部队从东部发动攻击。这三方的攻击开始于1253年10月下旬，忽必烈估计肯定得经过一场血战才能迫使大理投降。高泰祥坚决拒绝向蒙古军队投降，他集结他的部队，在金沙江岸边迎击敌人。忽必烈的队伍在11月到达了江对岸。他并没有为貌似强大的敌方军队所吓倒，命令士兵制造羊皮筏子横渡大江。负责监造羊皮筏的是这次随行出征的一位将军伯颜。这是忽必烈和伯颜之间的第一次联合行动，伯颜后来成为忽必烈最信赖和最能干的军事助手。在这关键时刻，伯颜率领他的队伍在夜幕掩护下勇敢地渡过了金沙江。蒙古军迅速地击败了惊慌失措的敌人，迫使高泰祥仓皇逃回都城，并消灭了高的大部分军队。他的最强大的敌人现在已经陷入混乱之中，忽必烈可以集中力量对大理发起最后的攻击了。
根据汉文资料，这次战役中真正的英雄当属姚枢。作为一位优秀的儒士，他希望能使当地居民避免一场蒙古人的大屠杀。他以典型的儒家方式，用历史事实向忽必烈证明采取非血腥策略的重要性。姚枢对忽必烈说，曹彬（930~999）是宋朝的一位著名将领。宋朝建立之初，急于加强对全国的统治。公元975年，宋太祖派遣曹彬去平定南唐。在途中，曹彬佯装生病。当他的下属聚集在他周围询问病因时，他告诉他们，只有他们保证不抢掠江宁府（今南京），不屠杀百姓，他的病才会好起来。他们同意了，于是江宁府以和平手段被征服了。姚枢敦促忽必烈效法曹彬的模式，并建议派遣一个先遣队到大理，宣告他们不会肆意杀害和抢劫，他们所要求的只是大理王国接受蒙古人的统治。姚枢认为，这种非暴力的策略肯定会使大理放弃抵抗，向蒙古人称臣。
忽必烈已经在作战中显示了他的胆略，现在他需要重新把注意力集中在中国北方的管理上面。作为大理之战的一个成果，他的领地扩大了，包括了今天陕西省和河南省的大部分地区。这样广阔的土地，稳定有序的管理是非常重要的。忽必烈任命当时只有二十岁的畏兀儿人廉希宪为关西路（在京兆地区）的宣抚使。这是他的领地中一个比较重要的地区，他要廉希宪创建一套井然有序的政府管理系统。京兆地区包括陕西和四川的一部分，这里民族众多，很难治理。套用中国历代的一个常用术语，廉希宪的任务是“抑强扶弱”。作为一位典型的儒士，他首先把教育看做达到他的目标的重要手段。他邀请名儒许衡负责学校事务，并选拔有才能的学者进入政府部门做官。许衡后来成为忽必烈政府中的重要人物。不仅如此，廉希宪还十分注重保护学者的利益。从窝阔台到忽必烈，蒙古大汗一直遵守一条规定：禁止把儒士当做奴隶使唤。然而，一些显贵仍然不遵守这条规定，强迫儒士做一些下贱的工作。廉希宪命令地方政府把儒士登记造册，以防止他们被虐待。他惩处了剥削平民的巫师，并加强了对他们的管理。他任命有文化的官员，促进农业发展，发行纸钞以促进商业贸易，征收赋税以满足忽必烈之需。简言之，他为忽必烈领地的繁荣和稳定作出了重要贡献。
汉文史料把功劳归于忽必烈的儒士和僧侣幕僚，他们劝他另谋他策。据说儒士姚枢恳求忽必烈，切不可鲁莽行事，而蒙哥任命的蒙古帝国的佛教领袖那摩，则极力建议忽必烈要更加尊重他的哥哥。他们两个都在暗示，如果忽必烈心怀敌意，只会坐实蒙哥身边的臣僚对他品格的恶语中伤。他们建议他采取有效措施，消弭忽必烈的政敌在蒙哥汗廷中散布的种种诬蔑不实之词，从而纠正蒙哥对忽必烈的不良印象。忽必烈采纳了这个忠告，派了一个名叫谭澄的汉人和一个名叫阔阔的蒙古人到蒙哥汗廷中代他陈情。不过，这项使命显然不太成功，因为直至1257年12月，蒙哥仍然对忽必烈充满敌意，不愿宽恕他。因此忽必烈有必要采取更进一步的妥协和安抚行动，使蒙哥释怀。忽必烈的幕僚建议他亲自前往哈剌和林蒙哥汗廷为自己辩解。他们建议他绕开政治话题，不谈他们争论较大的问题，只诉诸兄弟之间的情谊。汉文史料说，忽必烈完完全全地照着他们的建议做，两兄弟之间的会面非常成功。据记载，在两兄弟彼此张开双臂拥抱对方之后，他们便尽释前嫌了。
据说当忽必烈在1260年春天到达开平的时候，很多王子催促他接受蒙古帝国汗位。《元史》上说他们“乞求”他登上汗位。在三次礼节性的拒绝之后，他最后同意了他们的请求，5月5日，在开平匆忙召集的忽里台选举他为大汗。他的当选是很特殊的，因为以前所有的可汗都是在蒙古或中亚召开的集会上选出的。因此，这次忽里台的合法性将受到挑战，而且后来实际上受到了一次又一次的挑战。然而，当决定与自己的弟弟发生正面冲突之后，他已经向当时全世界最重要的位置迈出了第一步，而在几年之后他就被承认为蒙古人的合法统治者。
忽必烈于1260年5月被选举为大汗，此事引发了争议。阿里不哥是第一个向忽必烈发难的人，但是他并非最后一个挑战者。忽必烈在执政期间一直受到继位程序非法的困扰，一些汉人和蒙古贵族多次试图推翻这位大汗及中国皇帝。他的敌人主要是保守的蒙古人，这些人怀疑他有明显的认同中原和当地汉人的倾向，而这些汉人实际上对异族统治充满了厌恶。所以，无论他选择什么样的政策，他都注定会疏远这两部分人中的一部分。他无法做到面面俱到，使两方面都感到满意。而如果他的某项决定触怒了任何一方，他们都可能以他的继位不合程序作为起来反叛他的正当理由。面对这样的威胁，他不断地寻找证明他合法性的方法。他希望他的汉地和蒙古属民认可他为正统统治者，这种强烈的欲望可能刺激他后来发动了一连串的军事行动。他当选大汗的经过应该详加说明，因为在后来若干年里，这一直是某些人企图推翻他的借口。
1260年6月，阿里不哥宣布登上汗位。这时，阿里不哥和忽必烈都成了大汗，都在寻求蒙古皇室各派系的支持，而阿里不哥似乎已占有优势，蒙古帝国内部四大汗国的统治者都支持他。1257年拔都汗死后，金帐汗国的汗位由别儿哥继位，别儿哥偏爱阿里不哥，部分原因是他仇视忽必烈的盟友、弟弟旭烈兀。别儿哥已经皈依了伊斯兰教，而回教徒则认为旭烈兀是他们的敌人。别儿哥和旭烈兀两人都宣称拥有现在阿塞拜疆地区的所有领土，这个争执使他们之间产生了深深的敌意。他们自然会支持不同的大汗候选人。阿里不哥也得到了中亚察合台汗国的支持，该汗国统治者阿鲁忽事实上极力鼓动阿里不哥争夺汗位。此外，蒙哥汗家族的许多成员也已与他联合起来。忽必烈的主要盟友，也是他真正靠得住的盟友是波斯伊儿汗国的可汗旭烈兀，但是旭烈兀自己正面临着一个危机。
和他的前辈一样，忽必烈清楚地知道，他必须继续坚持领土扩张的政策。因此，他的军事机器一直保持着临战状态。在蒙古人眼中，作为统治者，他的成功至少在某种程度上取决于他能够为他的帝国增加多少财富、人口和疆域。同样，汉人的思想观念认为，一个好君主的贤德及其国度的荣耀会吸引外国人来朝，并服膺于华夏文明。为了提高他作为蒙古人和汉人世界统治者的权威性，忽必烈必须采取一种果断的、进取性的甚至进攻性的对外政策。此外，对忽必烈夺取汗位的质疑，也迫使他必须用实际行动证明自己的合法性，平息对他统治权力的任何疑问。既然他曾受到自己亲兄弟的挑战，那么肯定还会有人质疑他是否有资格担当蒙古帝国的统治者。对他来说，堵塞质疑之口的最好方法莫过于把更多版图纳入蒙古的政治控制之下。除此之外，还有什么更好的方法呢？
忽必烈的首要目标是征服南宋。虽然他已经控制了传统中国的中心区域，但是，他还没有成为长江以南地区的主人。从唐代初期开始，南方的地位便变得越来越突出。那里的土地比北方更加肥沃，海洋贸易使得沿海城市非常繁荣。忽必烈需要征服南宋，以便赢得汉人的尊重，并消除这个敌对王朝对其统治持续不断的威胁。因为南宋仍然念念不忘夺回失去的北中国领土。
此外，忽必烈还担心他的边疆的安全问题。与宋朝接壤的南部边陲地区需要稳定，甚至需要平定。在东北边境，与蒙古毗邻的高丽并没有构成威胁，但是高丽只是在忽必烈登基之后才开始接受蒙古的统治。而沿着中亚疆界，忽必烈面临着真正的威胁：窝阔台的孙子海都不断挑战忽必烈的权威，经常骚扰中国的西北边疆。中亚游牧部落的首领甚至对忽必烈疆域最北端的蒙古本土也构成了威胁。所有这些防御方面的问题都迫使忽必烈保持并扩充他的军队数量，并向西北和北方发起军事远征。
忽必烈最重要的目标是中国南方，他希望占有南宋的资源。而且，尽管南宋的军事实力比较弱，并没有构成一种直接威胁，但是这个地区仍然是一个潜在的麻烦之地。汉人仍希望收复失地，统一国土。如果宋朝能够组织一支比较有效的战斗力量，他们的首要目标肯定是重新夺回北方领土。在蒙哥执政时期，蒙古平定南宋的努力无果而终。13世纪60年代，当忽必烈在蒙古权力之争中胜出之后，便计划在南宋恢复军事实力之前对它发起征讨。征服南宋在政治上和军事上都是大有益处的。况且，如果征宋战役取得成功，其经济价值也同样是巨大的。南方商人在与东南亚、印度乃至远到中东的贸易中获利丰厚。从这些商业贸易中获得的物品、利润以及税收无疑对忽必烈极具诱惑力。中国南方的土地通常比北方更加肥沃，而在北方，食物供应往往不能满足人口的需求。如果忽必烈向南扩张，他就能保证北方的臣民有充足的粮食储备。
占领中国南方绝非易事。蒙古军队和骑兵不习惯南方的气候和地形，蒙古战马要面对数不清的障碍。温暖的气候和遍布的森林比草原的环境艰难得多，而战马对酷热也难以适应。另外，几乎没有饲料供它们吃，因为在南方，所有可耕地都被用来种植庄稼了。蒙古人自己也对热带和亚热带疾病毫无防备，在那里，寄生虫和蚊子会传播疾病，而他们对此根本没有抵抗力。
除此之外，蒙古军队还需要采取一种他们很少甚至根本没有使用过的战略战术。作为一个大力发展远洋贸易的国家，南宋拥有一支强大的海军，因此，要占领它的一些主要城市，必须由海军发起攻击才可能奏效。蒙古人必须学会修造战船，并征募水手，熟悉海上作战。实际上，在汉人、高丽人以及女真人的帮助下，他们的确建立了一支能够征服南宋的海军。当然，他们还和南宋拥有共同的陆地疆界，而一些战役的确是在陆地上进行的，陆上作战是他们所熟悉的，并且在当时他们几乎是战无不胜的。不过，征服南宋需要庞大的财政和军事资源。
