1938年3月16日，日军第十师团组编濑谷支队（旅团）作为先头部队，向台儿庄以北滕县发动进攻，揭开了台儿庄战役的序幕。

中国军队在滕县与敌进行拼死战斗后，18日，滕县、临城陷落。20日，东北方向韩庄、峄县失守。濑谷支队在它部日军尚未到达的情况下先行逼进台儿庄。

中国第5战区在李宗仁将军指挥下，为确保台儿庄阵地，以保卫徐州，调整战略部署，准备聚歼孤军突入之日军濑谷支队。3月24日，蒋介石亲到徐州视察，并组成中央临时参谋团协助李宗仁指挥。同时，中国共产党命令新四军在广大淮河流域配合友军，使津浦路南段日军不敢贸然北上支援南下日军，周恩来还向国民政府军事委员会副总参谋长白崇禧提出作战方针建议，得到深切赞许，并派出代表鼓励李宗仁利用台儿庄以北有利的山区、湖沟地形给敌一次沉重打击。

3月24日，濑谷支队在航空火力支援下向台儿庄发动猛攻，中国守军第２集团军第３１师与之展开激战。日军一部突入东北角，被守军击退。２７日，日军不断增加兵力，配以坦克、重炮实施轰击，濑谷支队主力一部突入北门，第３１师与敌展开拉锯战，守军伤亡甚重，日军突入台儿庄。28日，中国守军对突入之敌展开围攻，敌方损失甚重。

为切断峄县之敌增援台儿庄，中国军队一部于30日对峄县佯攻，一部协助解决台儿庄附近之敌，极力破坏峄县至台儿庄之间的铁路、公路，遮断峄县与台儿庄的联络，竭力阻敌南下。同时，中国军队一部向另一方向南洛、三里庄前进，截断日军联络，阻敌增援。另一部由峄县南下围攻日军。29日，日军急令攻击临沂的坂本支队转向驰援台儿庄。２９日，李宗仁令第２集团军死守台儿庄阵地，并严令汤恩伯部南下，协助第２集团军解决台儿庄之敌。30日，日军濑谷旅团长亲率支队后续力量增援台儿庄，全力与中国守军展开激战。在日军的优势火力下，中国军队不避牺牲，浴血猛攻。31日，中国军队将进入台儿庄之敌完全包围，日军遭中国军队阻击，经数日激战，予敌重创，使其救援计划落空。

4月3日，中国军队终于冲入台儿庄，与敌展开街垒战。日军拚力争夺，占领了市街大部。中国军队一次又一次反击，展开街垒战，夺回被日军占领的市街。双方陷于苦战。6日晚，中国军队全线攻击濑谷支队。战至7日凌晨，除一小部日军突围至峄县附近固守待援外，余敌全部被歼。