陳霸先出身低微，擔任過里司(相當于今天的村長)，后到建康(今南京)作過油庫的庫吏，可見陳霸先年青時之艱難，其入仕也是從最底層做起的。約534年(梁大同初年)，新喻侯蕭映(梁武帝蕭衍的侄子)為吳興太守，很看重陳霸先，受蕭映賞識，隨任為廣州府中直兵參軍，不久出任西江督護、高要太守。

556年(紹泰二年)8月，蕭方智詔陳霸先食安吉、武康二縣，合五千戶，改紹泰二年為太平元年。不久，侯安都進抵武昌，王琳部將樊猛棄城退走。當初梁朝任命司空王琳為湘、郢二州的刺史。陳霸先立蕭方智為帝后，王琳一直不服。正好北周將梁元帝的靈柩和諸將家屬一千多人送還給王琳。王琳自為得天助，引兵直取建康(今江蘇南京)，侯瑱率軍出蕪湖尾其后。王琳用火攻，因風向反燒己船。侯瑱以拍艦擊王艦，又以蒙沖小船沖撞王艦，并溶鐵灑之，王琳軍大敗，士兵溺死無數。

陳霸先除掉王僧辯后，成為梁末權臣。不久，吳興、義興、吳郡三郡一齊起兵抗陳。這三郡幾乎包括了京口東南的整個江南地區，聲勢相連，形勢十分嚴峻。吳興是陳霸先的家鄉，得知杜龕反叛，他立馬使侄子陳蒨回故里自衛。但是陳蒨手下只有幾百兵，要對付的卻是杜龕的五千精兵。陳霸先見處境危險，趕緊派周文育率軍東征，但一時又打不下來，接近不了吳興。陳霸先只得留侯安都守建康，自己親自領兵平叛。

就在陳霸先離開建康之時，譙、秦二州刺史徐嗣徽和南豫州刺史任約內勾結北齊，出兵偷襲并攻占健康。陳霸先收復健康這一戰打得非常艱苦。最后，陳軍一鼓作氣，憑借連勝的銳氣，猛攻石頭城。守城齊將柳達摩要求講和。雙方議和。柳達摩率軍退出石頭城，撤回北齊。北齊此番攻梁失敗，柳達摩一無所獲，還損失了大批兵糧和馬匹，被齊文宣帝高洋斬殺泄憤。

556年三月，北齊再犯建康。陳霸先偷襲齊軍糧道，士氣大挫。六月，齊軍是從建康西南方面進軍，逐漸到達城南、城東南，折而從城東向北迂回，到達城東北、城北。齊軍采取包圍戰術，進展相當順利，作戰初期一直占據主動。建康被圍，對外聯絡和糧道都告中斷。

不過此時正是南方雨季，使基本是北人的齊軍陷入困境。不久，天氣轉晴，陳霸先準備出戰。正好陳蒨此時送到3000斛米、1000只鴨。陳霸先立即大犒全軍，將糧食全部煮掉，發給每人一包用荷葉裹的米飯，中間還夾上數塊鴨肉，讓將士們飽餐一頓，再讓將士們養精聚銳。

陳霸先親率軍隊，利用熟悉地形的優勢，率部迂回到敵后，夾擊敵軍。在雨季之中大受其苦的齊軍前后受敵，士氣低落，四處潰逃。齊軍將士逃到江邊，相互踐踏、沉溺而死的不計其數，并俘虜了北齊的四十六名將領，只有任約等幾個人逃得性命。

梁朝因此封陳霸先為太傅，加賜黃鉞、殊禮，進見贊拜時不用稱名。不久，又委任為相國，總領朝政，封為陳公，備九錫，陳國設置百官。之后，梁敬帝把皇位禪讓給了陳王。557年(永定元年)十月初十，陳霸先在南郊即皇帝位，改年號為永定。陳霸先登基不久，廣州蕭勃起兵，次年王琳在夏口(今湖北武漢)擁立蕭莊為帝;北周又奪取了巴陵、湘州。陳朝一直只能保有長江中下游(還不包括江陵地區)的江南地區，成為南朝時期轄境最小的一個朝代。