1937年七七事变发生，日本集结最精锐的部队，叫嚣要在三个月内灭亡中国。日本人的进攻，打破了蒋介石的“绥靖”梦，让他不得不考虑抵抗问题。这时，黄埔三期生、非常欣赏张灵甫军事才能的王耀武向蒋介石进言，请求释放张灵甫。蒋介石应允了。张灵甫方得以返回部队戴罪立功。出狱后，张灵甫进入王耀武的51师，担任153旅305团团长，奔赴上海，参加著名的“八一三”淞沪会战。会战中，张灵甫身先士卒，获得了士兵的尊敬。
战后，张灵甫又率305团参加南京保卫战，驻扎在雨花台附近的华严村，与日军18师团血战数日，直到接王耀武命令才率部突围。因作战有功，张灵甫被提升为153旅副旅长兼305团团长。张灵甫的“成名作”，是武汉会战中的万家岭战役。万家岭位于江西省德安城西北20余公里，是一些高低不平的山脉的统称，其峰不险，其貌不扬，但在74年前却是中国军人抗击日军的主战场。
1938年8月，日军第11军106师团从九江沿南浔铁路(南昌—九江)南犯。中国守军奋勇抗击，日军受挫。9月底，日军106师团第123团、第145团、第147团和前来增援的101师团第149旅团深入万家岭地区——这就为中国军队集中优势兵力啃下106师团创造了难得的机遇。10月7日，万家岭战役正式打响。中国军队第4军、第66军、第74军向敌军发起了总攻。日军虽然身陷险境，仍具备相当强的战斗力。为了歼灭106师团，就必须拿下已被敌军先行占领的高地——张古山。
张古山山势险峻，易守难攻。王耀武率51师久攻不下，无计可施。74军军长俞济时告诉王耀武：“张古山我不管了，反正两天后，我要上张古山向薛岳报告战况！”讨论作战方案时，众人都觉得张古山不好打。就在这时，张灵甫突然发言了：“师长，张古山就交给我吧！”“你有什么绝招？”王耀武很吃惊。
张灵甫侃侃而谈：“大家都知道《三国演义》吧？魏国大将邓艾率领精兵从阴平(甘肃文县)出发，经过七百里杳无人烟的地区，逢山开路，遇水搭桥，出其不意地直捣蜀国心脏成都。我们也可以依葫芦画瓢，大军继续正面进攻的同时，挑选精兵强将，从人迹罕至的张古山背面爬上去进行偷袭，一定能够起到两面夹攻的作用。”王耀武批准了这个作战方案。
张灵甫亲率一支突击队，轻装出发，穿过艰险的深山峡谷，攀岩爬树，悄然突入敌军后背，全歼山上日寇，一举拿下张古山。疯狂的日军在飞机配合下又夺回了张古山。张灵甫当夜趁天黑再次夺回阵地……如此反复拉锯，双方鏖战五日五夜。其间，日军第十一军司令官冈村宁次一边下令101师团不惜一切代价支援106师团，一边打破飞机不夜航的惯例，不分白天黑夜对张古山狂轰滥炸，妄图炸出一条血路。张灵甫部伤亡惨重，他本人也多次负伤。但张灵甫挺到了最后。
由于张古山的胜利，终使日寇106师团在万家岭几乎被全歼(只有师团长淞浦中将带几百残兵逃脱)，这在整个抗战史上是唯一的一次——万家岭大捷也因此成为著名的抗战三大捷之一。新四军军长叶挺称赞道：“挽洪都于垂危，作江汉之保障，并与平型关、台儿庄鼎足三立，盛名当垂不朽。”
当时郭沫若担任国民党军事委员会政治部第三厅厅长，他委派剧作家田汉前来采访张灵甫等人，以他们的事迹为蓝本编写了话剧《德安大捷》。张灵甫以真名真姓在剧中出现，从此名震天下。
