1937年8月13日淞沪会战爆发。战斗持续了70多天，但上海终究还是没能守住。10月26日，中国守军被迫转移。
日本全面侵华后，国民党政府即向国联呼吁制止日本侵略。国联建议召开《九国公约》签字国及其他与远东事务有直接利害关系的国家参加的会议，调解中日冲突。会议原定于1937年10月30日在比利时的首都布鲁塞尔召开。蒋介石希望在上海无论如何要有一支部队能够守到那个时候。1937年10月26日，刚刚升任五二四团团长的谢晋元接到任务，死守上海最后阵地，吸引日军，掩护闸北地区友军撤退。
26日深夜，谢晋元带着400多个弟兄，退守四行仓库。初到四行仓库时，有英租界士兵询问谢晋元带多少士兵驻守，谢晋元为壮声威答曰800人。
谢晋元与众将士坚守四行仓库4天4夜，击退日军6次进攻，毙敌数百人，被当时的报纸媒体称作是“八百壮士”。然而，就在壮士们边战斗边修工事，准备与敌人作长时间的殊死决战时，10月30日统帅部命令孤军停止战斗，退入公共租界。
10月30日，“八百壮士”奉命撤入租界，原商定经沪西返回部队参战，但租界工部局却屈服于日军压力，违背诺言，解除了将士们的武装，将他们扣留在胶州路一块空地上，英勇抗敌的壮士们，成了名副其实的“孤军”。
被监禁的时间在无限期延长，抗日战场上的中国军队又连连失利，有时基本的军饷都供应不上，孤军中的苦闷情绪越来越重。蒋介石一次次发电报，让谢晋元和孤军们一定要艰苦奋斗，坚守孤军营。
那段时间，团长谢晋元常常失眠。虽然很多人不理解，但是谢晋元依然艰苦地坚持着。他在日记中无比伤感地写道：余竭尽心血，对内对外之艰苦支持，已至力竭声嘶。使余有呼天不应，呼地不灵之痛。当余追忆几年来经过时，不禁流泪，诚以几年来之惨痛生活，何以用言语形容。
1940年3月，汪精卫伪国民政府在南京正式成立，他派人以陆军总司令的高官向谢晋元诱降，谢晋元把委任状撕得粉碎，他说：我父母都是中国人，生下我这个儿子也是中国人，中国人绝不当外国人的走狗。
1941年4月24日，谢晋元和以往一样率领官兵早操，但这一天突然有4个士兵迟到了。谢晋元问他们为什么迟到。没有想到这4个士兵突然拔出匕首行刺。谢晋元团长身中数刀，流血不止，下午6时悲壮长逝。那一年，他37岁。
4个凶手当场被擒，后交代是汪伪政府收买所为。
谢晋元遇刺后，孤军营里官兵的士气越来越低迷。1941年12月8日，日本突袭珍珠港，太平洋战争爆发，租界不再是安全岛。困守4年有余的孤军沦为日军的战俘。(据《文汇读书周报》)
