北宋王朝逐漸統一中國并平定邊境，離不開一批戰功赫赫的名將。而在這些名將中，曹彬被后人認為是“宋良將第一”，堪稱帥才。跟他的同僚潘美、王全斌、曹翰等人一比，便不難看出，像曹彬這樣的名將，確實是罕之又罕：他雖為大將，卻力主“不戰而屈人之兵”，反對血腥屠殺;他身居高位，且參與討伐平定后蜀、南唐兩國，又曾出使吳越，卻“秋毫無所取”，沒有貪污過一文錢。

宋太祖趙匡胤和弟弟晉王趙光義(即后來的宋太宗)等人在討論平定南唐的主將人選時，曹彬和潘美是他們的兩個主要選擇。趙匡胤提出要吸取王全斌平蜀時殺人太多的教訓，趙普于是推薦曹彬為主將。他們一致認為，比起勇猛善戰的潘美等人，曹彬更具有大將之風，適合統帥平定江南的大軍。

次日，宋太祖把曹彬、潘美找來商量征江南之事。曹彬加以推辭，說自己才力不迨，請求別選大將能臣。潘美就沒這么客氣了，他仗著宋太祖對自己比較寵信，迫不及待地聲稱如果以他為主將，很快就能拿下南唐。主意已定的宋太祖卻沒理他，轉頭對曹彬說：“所謂大將，首先就要敢于殺違規犯分的副將，做到這一點，其他事情就不難了。我任命你為大將，就是這個用意！”潘美聽得汗如雨下，不敢仰視。曹彬這才肯接過帥印。

出征之前，宋太祖又夜召曹彬入禁中，親自給他酌酒餞行。曹彬深知這一次出征責任重大，但他又不愿多所殺伐，帶著如此心事，不知不覺間居然喝醉。宮女拿水澆在他臉上，把他喚醒，宋太祖則一邊給他拍背，一邊安慰他說：“肯定能順利攻取江南，你就按自己的意思行事吧。”

以曹彬的寬厚穩重，配合潘美的明銳善戰，征伐江南的戰事果然進行得頗為順利，而且殺人傷人很少。戰爭進行到最后，眼看南唐都城金陵(今南京)唾手可得，潘美等宋將不禁摩拳擦掌，準備大戰一場。曹彬卻命令宋軍暫緩進攻，希望南唐后主李煜主動歸降，這樣就可以兵不血刃。他派人送信給李煜說：“事勢如此，所惜者一城生聚，若能歸命，策之上也。”

而且在這個節骨眼兒上，曹彬忽然自稱“病”得不能處理軍務了。諸將都趕來問候，曹彬語重心長地對他們說：“我的病其實是心病，這病絕非藥石所能治愈。如果你們希望我病好的話，就誠心立誓，破城之日，不妄殺一人。”諸將面面相覷，都覺得曹彬這治“病”之方未免新奇。但既然主將提出要求，他們也不能不答應，于是一起焚香為誓。第二天，曹彬的“病”就好了很多。再過一天，他就率軍攻破了金陵城。

金陵陷落，李煜與其臣子百余人到曹彬軍營中來請罪，曹彬好語安慰，并待之以賓禮，請李煜回宮整理行裝。曹彬自己只帶數騎在宮門外等候。左右悄悄對曹彬說：“李煜進宮去，如果想不開自殺了，那怎么辦？”曹彬笑笑，說：“以李煜軟弱寡斷的個性，既已出降，哪里還能有這種想法。”不一會兒李煜果然又乖乖出來了。有曹彬主持大局，南唐君臣才得以保全。

這次出征江南，從出師至凱旋，宋軍始終紀律嚴明，無人敢輕舉妄動。平定江南是大功，但曹彬回到京城，給宋太祖上的報告里只謙虛地說自己是“奉敕江南干事回”，意思是說，自己不過是奉命到江南辦理完一件公事罷了。

而潘美自從爭當主帥被宋太祖敲打之后，也收斂了許多，與曹彬合作得很好。金陵既平，潘美以功拜宣徽北院使。