1937年7月7日盧溝橋事變，日本發動了全面侵華戰爭。8月13日，日軍進攻上海。中日雙方在上海及其周圍地區進行了長達3個多月的大會戰。10月26日，日軍攻陷大場、江灣、閘北、廟行地區。中國守軍腹背受敵，戰局危急。為避免全軍覆沒，中國最高軍事當局決定將主力撤至蘇州河以南陣地。為掩護大軍撤退，第88師奉命留下1個團，死守閘北，牽制日軍。師長孫元良在團以上軍官會上，問誰愿意挑這副重擔，第524團中校團副謝晉元當即表示愿意留下。于是，決定以該團第1營為基干，組成加強營。全營共有3個步兵連、1個機槍連、1個迫擊炮連，共420余人，對外仍用團番號，稱800人，由團副謝晉元、一營營長楊瑞符少校等率領，以四行倉庫為固守據點，實施掩護任務。

謝晉元受領死守四行倉庫的任務后，對全體官兵說：“國家興亡，匹夫有責。我們是中國人，要有中國人的志氣。現在我們四面被日軍包圍，這個倉庫就是我們的最后陣地，也可能是我們的墳墓，只要我們還有一個人，就要同敵人拼到底！”全體官兵表示：誓與四行倉庫共存亡！四行倉庫是大陸、金城、鹽業、中南四家銀行的儲備倉庫，位于蘇州河北岸西藏路附近，是一座鋼筋水泥結構的7層大樓，樓高墻厚，易守難攻。這里曾是第88師司令部駐地，儲備了不少彈藥和糧食。倉庫的西面和北面是中國地界，已被日軍占領，東面是公共租界，南面是蘇州河，河的南岸也是公共租界。因此，四行倉庫同未被占領的中國地界完全隔絕，成為一個“孤島”。堅守四行倉庫的八百壯士，也就成了孤軍。

謝晉元率部進入四行倉庫后，迅速加強了四周防御工事，并在四行倉庫內部署兵力，構筑強固工事。四行倉庫內有大量的大豆、小麥，這些包裝糧食的麻包成了理想的構筑工事的材料。他們用麻包堵住了倉庫的大門，封閉了所有的窗戶，留出了射擊孔，派人分層據守。為了隱蔽部隊，還把大樓的電燈全部破壞掉，同時焚燒了倉庫周圍的房屋，防止日軍據此向大樓進攻。

27日中午，日軍開始從西面的交通銀行方向向四行倉庫逼近，當即遭外圍陣地守軍頑強抗擊。日軍扔下數具尸體，抱頭回竄。隨后，日軍糾集兵力再次撲向外圍陣地，外圍守軍進行英勇抵抗后，退入倉庫。日軍占領外圍陣地后，立即猛攻倉庫大門。日軍兵力幾倍于守軍，但八百壯士沉著應戰，全樓火力一齊射擊。三連連長面部受傷，血流滿面，仍不下火線，一面以毛巾捂住傷口，一面繼續指揮戰斗。是日，日軍遺尸80余具，四行倉庫絲毫無損。隨后兩日，日軍動用飛機、坦克，連續向四行倉庫發動猛烈進攻。八百壯士賃借堅固工事，頑強抵抗。謝晉元親手斃敵1名。日軍屢遭重創，毫無進展。四行倉庫巍然屹立。

經過三晝夜浴血奮戰，將士們已疲憊之極，但士氣仍然十分高昂。謝晉元在陣地上賦詩一首：“勇敢殺敵八百兵，抗敵豪情以詩鳴;誰憐愛國千行淚，說到倭奴氣不平。”激勵大家奮勇殺敵。楊瑞符召集官兵講話，說：“望各位愛國的男兒都抱定必死的決心，和謝團副、本營長死在一塊吧！大家可以簡單地寫遺書一封，通知家中。寫好后，收集起來，等待將來設法送到郵局去，以表示大家犧牲的決心。”

30日，日軍向倉庫發起總攻。戰斗從上午7時開始，一直持續到午夜。早已置生死于度外的勇士們，眾志成城，憑堅固守，日本侵略軍徒喚奈何。日軍雖有飛機，但不敢投彈;雖有大炮，卻不敢轟擊。因為倉庫附近就是公共租界，若流彈落入租界地區，就會引起國際爭端，他們只好望樓興嘆。八百壯士在四行倉庫與日軍血戰4晝夜，殲敵200余名，自己僅傷亡20余人，勝利完成任務。