自元代開始，中國出現了一種新的行政區劃制度，其最高一級的行政區劃單位為行省(簡稱為省)，因此稱為行省(省)制時期。此時期從13世紀后期至20世紀初，歷經元、明、清三代。

省名起源甚早，魏晉時期已有尚書省、中書省之稱，然皆為中樞要署，不直轄地方。隋文帝于開皇八年(588年)伐陳，曾置淮南行省于壽春，但不久即廢。金入主中原之初，曾出現過行省制度，在外地設立行尚書省，但為時短暫。

蒙古人興起之后，仿金實行行省制度。元世祖一方面將尚書省并為中書省，總理朝政;另一方面，在地方設立若干行中書省，作為朝廷中書省在外地的代理機構。它最初是一種臨時設置，并只管軍事，后演變為兼管民政，其長官也由中央官吏演變為地方官吏。其間從伐金到滅宋，歷經70余年，平宋以后成了元朝的行政區劃單位。

蒙古在太宗三年(1231年)即滅金的前三年，始立中書省，以著名的政治家、地理學家耶律楚材為中書令。入主中原后于憲宗初年(1251年)，在燕京等處置設行尚書省。

中統初年(1260年)，元世祖忽必烈改置行中書省，其后屢屢增多，但是一直到元貞年間(1295—1296年)行省的設置和轄區還都很不固定，即在忽必烈統一中國(1279年)后的20年中行省制并未固定下來，直到13世紀末、14世紀初的元成宗時期才開始固定，逐步形成元代省制行政區劃。

元英宗至治時(1321—1322年)，全國劃分為12個一級行政區：1個中書省、11個行中書省。

中書省為中央機構中書省的直轄地區，又稱都省、腹里，包括今北京、天津、山西、河北、山東以及河南和內蒙的部分地區。

十一行中書省為嶺北、遼陽、陜西、河南、江浙、江西、湖廣、云南、四川、甘肅、征東。其中，征東行省即高麗國，行省負責人由高麗王兼，性質與內地行省不同，所以也有人認為只有10個行中書省。

元末，又分出許多行省，如中書省分出山東行省，江浙行省分出福建行省;有些行省區域過大，又劃置分省，如福建行省內置建寧、汀州、泉州分省。可見，元末行省制也已開始混亂。