卢沟桥事变后，张自忠被委任59军军长。38年春，日军对徐州虎视眈眈，第五战区副司令韩复渠在日军的进攻下毫无还手之力，不战而退。第三军团长庞炳德被日军的坂垣师围困于临沂，张自忠奉命率部救援。张自忠率部星夜奔袭180里，给装备精良的坂垣师一个措手不及，又乘胜追击，与敌军苦战七天七夜，彻底击溃坂垣师，，取得了著名的临沂大捷。张自忠的名气越来越响，令敌人闻风丧胆。
之后张自忠又连战连胜，取得了鄂北大捷，襄东大捷。多次被国民政府通令表彰，张自忠也被老百姓誉为“活关公”。40年5月，日军盯上枣阳、宜昌地区，企图以这两个地区为跳板，敲开重庆的大门。张自忠当时已经升任为第五右翼兵团总司令，奉命率部截击日军。
张自忠自知此番任务艰难险重，九死一生。他告诫各级将领：“国家到了如此地步，除我等为其死，毫无其他办法。我相信，只要我等能本此决心，我们国家及我五千年历史之民族，决不至亡于区区三岛倭奴之手。”此时张自忠早就将生死置之度外，他不顾下属劝阻，亲临一线指挥作战。甚至当时李宗仁已经告诫过张自忠多次：“你是大军指挥员，不易亲临一线，速回司令部，统筹全局”，张自忠不听。
日军知道是张自忠的部队，增援数倍兵力进攻，由增派飞机大炮支援。由于敌众我寡，张自忠被迫退到南瓜店地区。敌人迅速包围过来，张自忠把身边的卫队都派出去迎敌，身边只留有副官几人。张自忠掏出钢笔写下报告交给副官。然后又对众人说：“我力战而死，无愧国家，你们当力战杀敌，不负我志”。
张自忠身中数弹后牺牲。敌军清扫战场时，一名日寇军官发现一具遗体身着将服。他从这名将军的上衣口袋摸出一支钢笔，看到上面镌刻着三个大字：“张自忠”。这名日寇军官先是一怔，紧接着大喊一声：“全体立正，敬礼！”，而后日军为将军敛尸，把张将军葬在一个土坡上并立碑。
消息传到延安，陕北各界都来参加张自忠的追悼大会。主席题写挽词：“尽忠报国”，总理题写挽词：“为国捐躯”。
