貴由即汗位不到兩年，便突然死去，蒙古統治集團內部爭奪汗位的斗爭越演越烈。1251年，蒙古的王公們推舉忽必烈的哥哥蒙哥為大汗。忽必烈領導關中漠南(蒙古高原大沙漠以南地區)漢地的軍政事務。過了兩年，忽必烈又接受了京兆(今陜西西安)的封地。他熱心于學習漢文化，任用漢人儒士整頓吏治，恢復農業，建立學校，進一步取得北方漢族地主階級對他的擁護，為元王朝的建立提供了堅實的社會基礎。

1253年，忽必烈受命與另一大將兀良合臺一起，南征云南，消滅了大理國。他將兀良合臺留在云南鎮守，自己班師回朝。不久以后，便在金蓮川(今河北灤河上游)建立藩府，修筑宮室，繼續任用漢族知識分子為謀士，整頓地方行政，藩府勢力不斷壯大。這引起了蒙哥的猜疑和不滿。蒙哥派人到關中來查核稅賦，其實真正的目的是對忽必烈的勢力進行打擊和限制。忽必烈當然知道哥哥來者不善。他聽從手下謀士姚樞的主意，親自把自己的家小送到和林作為人質，并對蒙哥說：“如果我有二心，背叛朝廷，你就把我的家人都殺了吧！”

蒙哥聽了此話，稍稍消除了疑慮。他停止了在關中的查核稅賦工作，但是把忽必烈在那里設置的漢族模式的機構全部撤銷了。

1258年，蒙哥派去西征波斯等地的旭烈兀送來了勝利的消息，蒙哥因而決定兵分三路伐宋，統一天下。他親自領兵打四川，命宗王塔察兒打鄂州(今武昌)，兀良合臺打潭州。可南宋軍隊早有防備，蒙哥攻合州(今四川合州)釣魚城攻了五個月也沒攻下來，塔察兒也一直過不了長江，蒙哥只得命忽必烈去替換塔察兒。

忽必烈于1259年八月到達黃陂時，得到了蒙哥死于軍中的消息。但他不愿無功而返，仍率部強渡長江，進圍鄂州。忽必烈的進攻勢頭引起南宋朝廷的震動，那個玩蟋蟀出名，靠姐姐是宋理宗的貴妃才當了宰相的賈似道，只好奉命前來應戰。

十一月，忽必烈接到妻子的密報，他的弟弟阿里不哥正調兵遣將，準備繼承汗位。這時，那個貪生怕死、貪權誤國的賈似道卻偷偷派人來向忽必烈求和，答應南宋向蒙古稱臣，以長江為分界，把長江北面的土地全割讓給蒙古，另外每年進貢銀帛各二十萬。

忽必烈順勢答應，并迅速從鄂州撤兵。1206年4月，他在開平府(今內蒙古正藍旗及多倫一帶)即大汗位，年號“中統”。同時，忽必烈的弟弟阿里不哥在北邊即大汗位，占據了漠北，也在積極活動，兩者互不相讓。經過四年激戰，忽必烈終于打敗了阿里不哥，從而統一了內部。

然后，忽必烈大舉南下。在攻打南宋時，他聽從漢人官員姚樞、劉秉忠的勸告，嚴禁屠殺無辜百姓，他說：“賢明的君王出征，目的是在征服敵人，而不是屠殺老百姓。濫殺無辜只會傷了國家的元氣！”

忽必烈在即大汗位時就在《即位詔》中宣布：“祖述(指祖宗的制度)變通，正在今日”。這表明，他想采用漢法，建立一個與中原經濟基礎相適應的中央政權。1263年，忽必烈將年號改為“至元”，并定都燕京(今北京)。忽必烈在中央設中書省，在各地分設十路宣撫司，任用漢族讀書人負責;改變蒙古開國以來的諸侯世襲制度，遵循中原漢族的傳統制度，大體奠定了元朝的政治體制規模。

公元1267年(至元四年)，忽必烈在中都燕京的基礎上，在城東北建造新的都城，四年后擴建工程結束，正式改國號為“大元”，并在次年將燕京升為大都。

元朝是中國歷史上第一個由少數民族統治全國的封建王朝，它初步奠定了中國疆域的規模。中央集權政治的重新確立，使得統治者將對人民的剝削限制在一定數額之內，并采取了一系列墾荒屯田、興修水利、限制抑良為奴等有利于農業和手工業生產發展的措施，從而推動了社會的進步。

元世祖忽必烈在位三十五年，公元1294年八十歲時病逝。他是中國歷史上一位著名的少數民族政治家和軍事家。他建立了一個疆域廣闊的龐大帝國，結束了中國數百年來軍閥割據和遼、金、西夏等民族政權長期并立的分裂局面，使國內各民族之間的經濟文化聯系進一步加強，促進了統一的、多民族的國家的穩定和繁榮。