南北朝初期仍是世族政治，社會階層分為世族、齊民編戶、依附人及奴隸 。世族擁有大量不需付稅的依附人從事生產與作戰，影響朝廷的稅收。雖然南朝皇帝仍然需要主流世族的擁護，不過也扶持寒門以平衡政治勢力，并且在南朝梁時萌芽出科舉制度 。南朝世族因為長期安逸而逐漸衰退，在侯景之亂後徹底崩潰。北朝胡族缺乏政治的經驗，所以重用漢人世族，引起雙方的文化采借，久之形成文化混合，以北魏孝文帝的漢化運動最盛[56]。混合的過程產生激烈的思想沖突、政治斗爭或種族沖突，例如六鎮民變、宇文泰的鮮卑化政策 。北齊提倡排漢文化 。北周建立關中本位政策，融合鮮卑及漢文化以消除胡漢隔閡 。在隋朝統一天下後，合并關東與江南人而形成新漢族，開創出具開放性和包容性的隋唐文化。

政府部門南朝宋之后設有門下省，至此確定了三省制度。門下省負責獻計策和勸諫皇帝，參與機密之事，又成為大權掌握的機構。

行政區劃南朝政承襲東晉，實行州郡縣三級制。而僑州郡縣及雙頭州郡也因為土斷而變成一般州郡。自東漢末期實施的州郡縣三級制，到隋平陳后改為州縣二級制而結束。南朝的州設刺史，郡設太守，只有丹陽郡因為是首都所在地而設尹。縣設令、長。自宋以后，令多於長。與郡同級的有王國和公國，設內史和相。還有特為習稱蠻民及僚族、俚族等少數民族設置左郡、左縣和僚郡、俚郡。例如有南陳左郡、東宕渠僚郡等。當時州郡縣有等級之分，大致上以距離首都遠近為品級高低之分，諸州佐吏則按州的等級設置官員。揚、荊二州還有“二陜”之稱呼。 北魏在北魏孝文帝以后，官制模仿南朝，至唐代仍沿用。北周時按周禮，設置六官，即天官、地官、春官、夏官、秋官、冬官六府，是隋唐之后六部體制的源頭。

北朝政區承襲十六國，如同南朝一樣為州郡縣三級制。然而州轄區不大，州刺史可越郡級直接管理縣，使得郡級逐漸虛級化，到583年隋朝正式定為州縣兩級制。北魏也設有僑州郡縣和雙頭州郡(如南雍州)，并將州郡縣按人口數分等級。為了防范新附或異姓叛變，于406年將各級行政長官分立三位，其中州刺史方面須一位為宗室。北魏原設有負責地方軍政的行臺及管理數州軍事的都督。到北齊定為行臺制，北周則為總管制，都是負責數個州郡軍事與行政的政區單位。北齊因為州轄區越分越細，于是設置行臺兼管數州民政及軍事 。西魏則改稱都督為總管，性質同北齊行臺。北周時，總管一般兼任駐州刺史，并以所駐之州為名。北魏還特為鮮卑本族或其他民族(漢人除外)設置領民酋長來管理該族，地位只次于州刺史。又延續十六國政區，設有管理州境內其他民族的護軍。其地位等同郡守，至457年廢除。還有鎮戍制，于重要的軍事要地設鎮。鎮由鎮將管理，下置戍，由戍主管理。其中又以鞏固首都平城的六鎮最重要 ，至孝文帝遷都后勢微。六鎮民變后，北朝的鎮戍專管軍事，不再具政區性質。