1938年年底，中共中央決定在晉東南創辦抗大第一分校，執行培養八路軍、新四軍軍政干部的重任。12月25日，第一分校在陜西延長縣召開分校成立暨東遷動員大會，羅瑞卿宣讀中央軍委命令：任命何長工為校長、周純全為副校長、黃歐東為政治部主任。從此，在延安的抗大被稱為抗大總校。

當時為便于指揮起見，各建制單位沒有做大的調整，編成臨時行軍大隊：總校原第五大隊編成分校第一大隊。為隱蔽東進意圖，中央軍委確定以“何縱隊”為代號，何長工任縱隊司令員。

1939年1月3日，“何縱隊”3000余人從延長縣向晉東南挺進。為使學校安全通過封鎖線，何長工主動聯系上八路軍一一五師陳士榘支隊，請求提供掩護。陳支隊作了周密部署，派出警戒并封鎖消息，組織部隊頻頻出擊，迫使日寇龜縮在各據點。何長工則指揮“何縱隊”乘著夜幕通過冰凍的汾河，迅速通過敵人控制的同蒲鐵路線，并攀越了陡峭的綿山，于21日勝利到達中央軍委指定位置山西屯留縣故縣鎮。25日，第一分校召開了慶祝東遷勝利大會，何長工做了東遷總結。

參與領導抗大辦學，無疑是何長工革命生涯的重要篇章之一。1939年2月23日，第一分校在故縣鎮舉行第一期學員開學典禮。第一期學員共3237人。一次性招收這么多學員，第一分校立即名聲在外，校長何長工也成了晉東南響當當的人物。

開學典禮前夕，何長工等把“關于抗大分校之教育計劃”電呈中央軍委。1939年3月6日，中央軍委領導人毛澤東等復電八路軍首長朱德、彭德懷等，讓他們轉告何長工、周純全等。

對于中央軍委、毛澤東的上述意見，何長工等非常重視，“再加考慮”后結合學員實際情況靈活執行，大體做到了“毛規何隨”。

針對第一期學員多為知識青年的特點，何長工確定政治課設《什么是列寧主義》、《社會發展史》、《中國革命運動史》等課程，教學目的是轉變學員思想，確立革命人生觀。為貫徹黨的路線、方針、政策，還專門開設了《抗戰理論》這門新課，以毛澤東的《論持久戰》、《論新階段》和《抗日民族統一戰線》等作為基本教材。

軍事隊則以軍事教育為主，何長工確定訓練內容主要是戰術、技術：戰術課，分步兵戰術、游擊戰術;軍事技術課，有刺殺、射擊、投彈、爆破、筑城以及戰場搶救等。此外，還設有地形、偵察、警衛勤務、通信聯絡等課程。

1939年5月，根據八路軍總部的指示，為適應敵后戰斗環境的需要，第一分校增設學員支隊建制，何長工親自遴選支隊負責人：第一支隊長杜義德，第二支隊長閻捷三，第三支隊長賈若瑜。每個支隊轄3個營，第一至第六營主要培訓軍政干部，第七營為特科營，主要培訓機槍、工兵、炮兵等軍事技術干部。開學不久，八路軍總部根據日軍在戰場上頻頻使用毒劑的情況，指示第一分校增設防化訓練隊。何長工當即挑選了50多名政治條件好、文化程度較高、身體健康的學員到防化隊學習。防化隊開設有機化學、化學戰劑、化學兵器、防毒器材、毒劑偵別防治、化學戰術與軍事氣象等課程，是為我軍較早系統進行防化學戰教學的開始。

第一分校到達晉東南后，學校距八路軍總部駐地僅僅10余里，不僅在物資供應、生活保障等方面得到總部的關照，更重要的是能額外得到寶貴的“師資”——經過正規軍事教育、軍政兼優的八路軍首長。何長工多次請朱德、彭德懷、左權等蒞臨分校作報告或講課，大大開闊了學員的視野。從1939年4月到6月，朱德多次到分校講授《游擊戰爭的戰略戰術》。

1939年6月，在慶祝抗大成立三周年晚會上，毛澤東接見了第一分校政治總教室干事白彥，高興地說：“你們這次行動算是一次小長征啊！看來中央把抗大搬到敵后，就地培養干部的方針是正確的。”

太行山區是劉伯承、鄧小平領導的八路軍一二九師創建的抗日根據地，也是八路軍總部的所在地，因此成為附近日軍的心腹之患，頻頻進行大“掃蕩”。1939年春天，第一分校進入太行山南部地區以后，一面堅持正常教學，一面組織力量配合太南軍政委員會，鞏固擴大太南抗日根據地。何長工特地抽調數十人組成戰地工作團，由歐陽平、羅野崗、鐵堅等帶領，深入山西屯留、壺關、平順等縣，組織發動群眾，建設民主政權。何長工還要求戰地工作團組成若干精干的游擊小組，挺進敵占區發動群眾，建立人民武裝，動員民工拆橋破路，空舍清野，襲擾打擊敵人。這年7月，第一分校對外稱“第十八集團軍直屬第三縱隊”(又稱太南游擊司令部)，校長何長工兼任縱隊司令員，八路軍總部鋤奸部部長楊奇清為政治委員。9月，分校又以文工團和戰地工作團組成工作隊，協助黃克誠擔任司令員的太南軍區，開展對國民黨第四十軍龐炳勛、新五軍孫殿英和騎兵第十四旅張占奎等將領的統戰工作。在何長工親自過問下，工作隊對友軍部隊進行慰問活動，演出文藝節目，還分散到友軍部隊基層教唱抗日歌曲，開團結抗戰座談會，宣傳共產黨、八路軍的抗日主張。這些工作對友軍產生了積極的影響，從而形成了有利于聯合抗日的局面。不久，這些部隊中的一些高級將領的子女，有20多人來分校學習。

日偽軍的不斷“掃蕩”和國民黨頑固派對根據地的經濟封鎖，給第一分校的正常教學甚至日常生活都帶來了很大困難。“為了解決吃糧問題，何長工真的當起了‘長工’：他抽出全校1/3的人力，自己帶隊到百里外背糧，有時還要從太南長途跋涉到上黨盆地，同敵人展開奪糧斗爭。太行山區生活雖然艱苦，但廣大教職學員卻為自己能戰斗在抗日前線而感到自豪，把這稱為‘抗大難忘的一課’。”

1939年9月18日，第一分校在壺關縣神郊大廟舉行了第一期畢業典禮，朱德為畢業學員題詞“從工作中繼續學習鍛煉自己！”畢業學員大多數被分配到129師等部隊工作。從10月中旬開始，第二期學員陸續入校，總共招收了1330名學員。這時，分校奉命將學員支隊建制改稱大隊，撤銷教學營的建制。這期學員編成4個大隊，學員絕大多數是來自一二九師的連、排職基層干部和少數營職干部。當時，一二九師政治委員鄧小平動情地對何長工說過：“你為129師立了大功！沒有第一分校，一二九師要變成鋼鐵雄師幾乎是不可能的！”

1939年11月3日，第一分校第二期開學典禮在壺關縣神郊村舉行，旋即奉命由晉東南遷往山東敵后辦學。經研究決定，周純全、韋國清帶領分校領導機構、大部分教員東進，何長工則將一部分教員和第二期招收的1300多名學員組成留守大隊，留守原地做好迎接抗大總校遷址晉東南的準備工作。次年，抗大總校由延安東進，經晉察冀抗日根據地輾轉抵達指定位置山西武鄉縣蟠龍鎮，何長工立即帶領留守大隊前往蟠龍鎮歸入總校建制，分校第二期學員編入總校第六期繼續學習。