1937年淞滬會戰爆發以後，中國軍隊第88師是最先進入戰場抗擊日軍的中國部隊。最初謝晉元是作為第262旅參謀主任，在寶山路商務印書館對面的樓上在最前線指揮戰鬥。戰鬥到9月中旬，第524團團附黃永淮在戰鬥中身負重傷，第262旅旅長便任命謝晉元為新任團附，指揮該團負責正面陣地的防守任務。因戰況激烈，該團先後補充了4次兵員，原來的老兵在戰火中不斷犧牲，補充人員主要來自地方保安團。
戰鬥至10月下旬，面對日軍的不斷增兵，中國軍隊發現如果死守閘北，將由被包圍殲滅的危險，於是下令中國軍隊撤退到蘇州河南岸防守。但為了配合外交，給世人留下中國軍隊仍堅守蘇州河北岸抗戰的印象，於是決定讓第88師留下一部分部隊，作為中國最後的軍隊堅守。
對於留下來最後堅守的軍隊，師長孫元良很清楚他們將面臨的結果，曾表示“留置閘北守備最後陣地的部隊，兵力多是犧牲，兵力少也是犧牲。”最終孫元良決定以中校團附謝晉元率第262旅524團固守原第88師師部所在的四行倉庫為據點，作為中國在閘北的最後一支部隊堅守蘇州河北岸。這便是堅守四行倉庫的謝晉元及所率領的部隊被稱為“四行孤軍”的原因。
孫元良親自向謝晉元在四行倉庫下達了率第一營死守上海最後陣地的命令。之所以將最後一支中國軍隊死守的陣地設在四行倉庫基於以下幾點考慮：首先四行倉庫是鋼筋混凝土結構，堅固易於防守，並容易掌握部隊。四行倉庫作為原第88師師部，糧食和彈藥都儲存了很多，而且為了防止自來水管被日軍截斷，還有大量的飲用水儲存。最為重要的一點是，這裡緊挨著上海租界，不但可以讓租界裡的民眾站在高樓上觀戰以外，中國軍隊還有炮兵陣地緊挨著租界，在中國軍隊為四行孤軍提供炮火支援的同時，日軍會顧慮炮彈落入租界，而不敢進行還擊。
10月26日晚上，在接到命令以後，第524團團長韓憲元率領該團其他部隊撤離，在撤離前面對留下來的戰友十分難過和不捨，1營長楊瑞符當即胸膛一挺，敬禮表示：“請團長放心，我誓以最後一滴血，為中華民族爭人格！”
從524團第1營進入四行倉庫陣地後，便開始了對整個倉庫的加固工作，在隨後的4天4夜裡，四行孤軍展開了悲壯的保衛戰，以良好的軍事素質和抗日精神，與侵犯的日軍展開了一場氣壯山河，感天動地，你死我活的殊死搏鬥。當時因中國軍隊退守蘇州河南岸而士氣低落的上海市民，因四行孤軍的堅守而重新喚起了抗日鬥志。在上海的外國人也親眼目睹四行孤軍的英勇奮戰，通過報導將中國軍人寧死不屈，堅守到底的形象傳播到了全世界。
四行孤軍僅僅只是當時中國軍隊一個普通的步兵營，人數不過400多人，但為了壯我軍勢，而對外宣稱八百人。
戰鬥到10月30日，就在四行孤軍已經準備全體戰死殉國之際，謝晉元突然接到了第88師參謀長張柏亭的電話，命令他當晚撤退。謝晉元聽後情緒非常激動，對著話筒大聲的喊道：“全體壯士早已立下遺囑，相誓與四行最後陣地共存亡，但求死得有意義！但求死得其所！請參謀長報告師長，轉請委員長成全我們！”
但最終在第88師參謀長張柏亭和副師長馮聖法的輪番命令下，謝晉元和營長楊瑞符不得不接受了撤退命令，撤如了租界。在撤退的過程中楊瑞符和謝晉元均遭受傷。面對上級命令撤退，楊瑞符在後來接受記者採訪時表示：“我這次很遺憾，殲滅的敵人不多，既未成功，又未成仁，僅僅做到‘絕對服從命令六個字’”。謝晉元與表示：“我等之撤退，系因第三者要求維護中立地區之安全，請求我政府同意，而由我最高當局下令撤退者。”
香港九龍灣馬來街興發大廈15樓D室