中國歷史上“最強軍隊”的排行榜，有許多種。其實不在一個朝代，也不可能在戰場真正打一次，屬于“關公戰秦瓊”，只能當作娛樂新聞看。但一些軍團曾經縱橫四海、所向無敵，不論多少年過去，他們的英雄氣依然在天地間激蕩，讓人懷念、崇敬，比如岳家軍、戚家軍。在東晉，也有這樣一支軍隊，那就是戰無不勝、攻無不克的“北府軍”，創始人叫謝玄。

謝玄是謝安的侄子。他的母親叫阮容，和阮籍、阮咸同族;父親叫謝奕，曾任桓溫的司馬，謝玄自己也做過桓溫的部將。謝玄從小聰明，很受謝安器重。一次，謝安問：我家的子侄并不一定都要出來做官，但為什么還是希望你們能刻苦學習，每個人都有才能呢？大家都愣住了，誰也答不上來。謝玄說：這就好比芝蘭玉樹，總希望它們生長在自家的庭院里啊。(譬如芝蘭玉樹，欲使其生于庭階耳。)謝安聽了，大為贊賞。

這就是成語“芝蘭玉樹”的來歷。芝蘭指靈芝蘭草;玉樹是傳說中的仙樹。后來就比喻成德才兼備有出息的子弟。唐代王勃的《滕王閣序》中有一句為“非謝家之寶樹，接孟氏之芳鄰。”這是王勃自謙的話，意思是：我雖然不像玉樹般的謝家子弟那樣優秀，但你們像孟母的好鄰居，我有幸能夠結識交住。謝安又曾問他：詩經中最喜歡哪句？謝玄答：“昔我往矣，楊柳依依;今我來思，雨雪霏霏。”

這是《詩經》中的名句，出自《詩經·小雅·采薇》，后面還有四句是：“行道遲遲，載渴載饑。我心傷悲，莫知我哀！”這是一個普通士兵，訴說長期在外征戰的艱苦、對故鄉的思念之情。如果翻譯成現代文，就是：回憶當初出征時，楊柳依依隨風吹。如今踏上回家路，雨雪紛紛滿天飛。眼前的艱難想到了往日的溫暖，悲從中來，情感如潮水涌出，讓人無限感傷。謝安是性情中人，頓時覺得他和自己很相似。

但謝玄小時候有女人氣，喜歡佩帶紫羅香囊。謝安不太喜歡這種娘娘腔，直接批評又擔心傷他的自尊，想出了一個辦法。一次兩人玩游戲，謝安說：你如果輸了，就把紫羅香囊給我。謝安贏到手后，放在火上燒掉了。謝玄明白了謝安的意思，從此不再佩帶這類裝飾品。謝玄文武兼備，在桓溫、桓豁手下都呆過。桓溫曾說：謝玄到了40歲，一定能做軍事統帥。

東晉的朝廷一直軟弱無能，原因是皇帝始終在做“和事老”，平衡幾個大族的關系，打仗基本靠地方軍閥。就像一個“名譽主席”，沒有實權，要看地方大員的臉色。一旦實力最強的荊州兵造反，建康就嚇得發抖，哭著喊著徐、兗二州的軍隊來救駕。謝安感到深深的痛，槍桿子里面出政權啊，沒有嫡系部隊，就像現在沒錢一樣，說話不硬氣。他任命謝玄為建武將軍、兗州(今東山等地區)刺史、領廣陵相、監江北諸軍事，后來又兼任徐州(今蘇北等地區)刺史。于是，一流的軍隊“北府軍”(又稱“北府兵”)就此誕生了。

謝玄到任后，整個廣陵(今揚州)和京口聚居著北方的流民，謝玄大規模地招募，日夜操練，威震大江南北的“北府軍”正式問世。謝玄手下有七大猛將，最出名的人叫劉牢之。劉牢之字道堅，彭城人，屬于武將世家，曾祖父劉羲，特長是善射，任過雁門太守等;父親劉建，特長是勇猛，做到征虜將軍。劉牢之面色紫紅，胡須與眼睛長得奇特，他眼睛一瞪，就是兇神惡煞的樣子，讓人恐怖，會嚇一跳。但他并不是一個僅四肢發達的莽漢，為人沉著，有毅力，做事喜歡動腦子。

他一直擔任北府軍的前鋒，領著最精銳的部隊，幾乎是打遍天下無敵手。謝玄還有一個叔叔叫謝石，也是謝安的弟弟。謝石當時名氣不大，但他后來在淝水之戰中成了謝玄的領導，兩人并肩作戰，才暴得大名。他年輕的時候臉上長了毒瘡，找到很多醫生，試了很多偏方，都治不好。自己相當苦惱，無臉見人。有天夜里，他睡著了，隱隱約約感到有一個動物爬到自己臉上，舔來舔去。第二天早晨醒來后，感覺臉上有點異樣，照照鏡子，大吃一驚，毒瘡竟然痊愈了。只是留下白色的痕跡，所以江湖上人稱“謝白面”。

淝水之戰前，前秦國內有童謠唱：“誰謂爾堅？石打碎！”意思是：誰說你堅硬，石頭就可打碎。引申的意思是：誰能擊敗苻堅？是石頭。桓豁聽到這個童謠后，就把兒子的名字中都加個“石”字，比如桓石虔、桓石秀、桓石民、桓石生、桓石綏、桓石康等。但是，淝水之戰中，謝石是統領各軍的征討大都督。后來的人一想恍然大悟，這個“石頭”原來指謝石啊。這一年謝玄35歲，當時朝廷中很多人反對他任省級高官，認為謝安在走后門，照顧自己的侄子。就在謝安遭到一片非議的時候，有一個人堅定地支持謝玄，可他還是謝家的仇人。