1937年8月22日，八路军第一一五师共1.5万人东渡黄河，进入山西境内抵抗日军。这时，一一五师共有三四三旅和三四四旅。

9月上旬，一一五师从晋西南的侯马陆续乘火车北上。铁路被洪水冲断，只好修一段走一段。在太原和忻口间，铁路坡度太大，又超载，火车上高坡时战士们只好下来推火车。9月20日，一一五师进至平型关以西的大营镇待命。

第二战区司令阎锡山获得情报:日军第五师师团长、中将板垣征四郎率二十一旅团一部要经过平型关，以便进攻雁门关。平型关位于山西东北部，和河北交界，地势险要，自古就是长城南端的重要隘口。

此时的阎锡山雄心勃勃，制定了将日军放进平型关内加以围歼的计划。他任命傅作义为总指挥，以一个师加两个旅作为总预备队，以8个团的兵力从长城侧击日军右侧背。八路军一一五师的任务是从平型关东边的山地夹击日军，断敌后路。

战事紧急，刚到大营的林彪没休息，马上给中央军委和八路军总部发电，报告作战计划。然后林彪共三次到平型关侦察地形。林彪的警卫员杨兴桂回忆说:「林彪带着团干部们侦察，他穿著一件破褂子，随便扎根布腰带，头上戴一顶毡帽，活像当地的农民。路上没饭吃，他和大家一起吃生地瓜。回来大家都很累了，我半夜醒来，看见林彪还盯着地图看。」

平型关东侧的乔沟是通向灵丘、涞源的山谷公路，宽度仅能通过一辆汽车。沟深数丈，只有老爷庙前有一个缺口。南北沟岸也便于隐蔽和发挥火力优势，是设伏的好地方。林彪决定让部队埋伏在乔沟两侧，摆成「长蛇阵」，给日军来个瓮中捉鳖。一一五师于9月24日凌晨前进入阵地。

在一一五师摆出的「长蛇阵」中，平型关左面的「蛇头」是杨得志、陈正湘的六八五团；右面的「蛇腰」是李天佑、杨勇的六八六团；「蛇尾」是徐海东的六八七团。六八八团作为预备队，杨成武的独立团和刘云彪的骑兵营负责打援。