忻口战斗中，李长维幸免于难。由于他好学，在当时的战士中算是有文化的，所以战斗结束后被选入了“军士队”。在当时，“军士队”是一个临时性的组织，一边打仗一边学习，而老师就是班长。李长维在那里呆了2个多月，学习了一些基本的军事知识后，被送到了张自忠的59军当上了班长，立刻参加台儿庄战斗。这一次，又是靠两条腿走过去的。“后来我总结当新兵时的收获，感触最深的是，当一天兵等于读一天大学啊！”

随张自忠血战台儿庄

装备太差了，炮兵经常把美国产的81炮弹装在国产的82炮身里面发射

1938年3月，板垣第5师团进攻山东南部的军事要地临沂城。李长维所在的第59军奉命增援，与守军庞炳勋第40军内外夹击，取得临沂大捷，并分割了日军主力，为随后著名的台儿庄大捷奠定了基础。

“战斗打得异常艰苦。主要是我们的武器装备太差了。敌人用飞机大炮，我们用步枪手榴弹，相差悬殊。”

当时的国民党军队，一个步兵连只有3挺轻机枪，每个机枪组5个人，其中3个弹药手负责运送子弹，两个射击手轮换。而每个营下面才设一个重机枪连和一个迫击炮连，普通的士兵，都是用最落后的步枪和敌人战斗。

“炮弹的规格也不统一，有时候用美国产的60迫击炮，有时候用中国产的82迫击炮。很多时候，炮弹和炮身并不对应，我们经常把美国产的81炮弹装在国产的82炮身里面发射，只要能射出去就行了。”

台儿庄战役，包括外围阻击战在内，前后进行了一个多月，中国投入兵力20多个师计12万人，击败日军第5、第10两个精锐师团，以损失近两万人代价，取得歼敌万余人的战果。但由于敌强我弱，这个胜利未能改变正面战场的被动局面。

台儿庄战役结束后，李长维由于作战有功，升任上士副排长。随后，他的部队星夜兼程奔赴武汉，又走了一个多月。