4月6日，李宗仁赶赴台儿庄附近，亲自指挥全线总攻。中国军队全线出击，杀声震天。敌军已成强弩之末，弹药汽油用完，机动车辆多数被击毁，其余也因缺乏汽油陷于瘫痪，日军狼狈逃窜。日军濑谷支队力战不支，炸掉不易搬动的物资，向峄县溃逃。中国军队乘胜追击，敌除濑谷支队残部数千人逃掉外，其余全部被歼。一直防守的孙连仲部，听说反击，神情振发，命令一下，杀声震天。李宗仁命令部队猛追，敌兵遗尸遍野，各种辎重到处皆是，矶谷本人率残部拼命突围。中国守军开始在台儿庄内肃清残敌。

李宗仁在4月7日下令所有参战的中国军队，抓住日军溃退的战机，全力反击扫荡。一时之间在鲁南地区，中国军队是四面合击，日军是拼命地奔逃，日军死亡的人数超过16000人，是日军自明治维新以来，在战场上最大的一场败仗。

台儿庄一战，中国投入兵力20多个师计12万人，其中台儿庄方面6万人；日军投入2个师8个团约3万人，其中台儿庄方向7个团。中国军队击败日军第5、第10两个精锐师团，以损失近2万人为代价，取得歼敌万余人的战果，日军损失坦克30余辆，火炮70余门、坦克40余辆、机枪数百挺、步枪万余枝。并缴获了大量武器及其他军用物资。此役是抗战初期继平型关大捷后中国取得的又一次重大胜利。也是抗战以来国民党正面战场取得的重大胜利。

当时中国军队以10个师之众对敌一个半师团，兵力占绝对优势。但汤恩伯态度消极，虽处在敌侧有利态势，也没有积极抓住战机把敌人彻底包围歼灭。然而打退了敌人总算是空前的一次大胜利。