为了加强对敌防御和迂回，林彪变防守为进攻，以进攻代防守。他命令山东一师、二师和华中三师八旅、十旅、独立旅向四平方向西北延伸，以华中三师七旅加强七纵的防御阵地，七旅原在城北三道林子的防务由长春南下的山东七师接管，形成以四平市区为中心，从东到西蜿蜒伸展百余里长的防线，钳制住了蒋军的攻势。到4月27日，双方经反复拉锯战，形成胶着对峙状态。

在四平激战期间，黄克诚从西满打电报给林彪，建议适可而止，不能与敌人硬拼。他理由是：“敌人一开始进攻的时候，打它一下子，以挫敌锐气，这是可以的。现在的情况是敌人倾巢而出，与我决战，而我军暂时尚不具备决战的一切条件。因此应该把大城市让出来，让敌人进来，我们则应到中小城市及广大乡村去建立根据地，积累力量，等到敌人背上的包袱沉重到走不动的时候，我们再回过头去消灭它，那时候我们就主动了。”

黄克诚连续给林彪发去好几封电报，建议他从四平撤退。但林彪既不回电，也不撤兵。黄克诚无奈，又给中央发去电报，对坚守四平提出异议。中央同样不予回答。

对于林彪和中央的态度，黄克诚感到万分奇怪。这个谜团直到十四年后才解开。在庐山会议期间，毛泽东与黄克诚闲聊。黄克诚谈到四平保卫战林彪决策有误。毛泽东问道：“难道四平保卫战打错了?”黄克诚解释说：“开始敌人向四平推进，我们打他一下子，这并不错。但后来在敌人集结重兵寻找我主力决战的情况下，我们就不应该固守四平了。”毛泽东说：“固守四平当时是我决定的。”到这时，黄克诚才知道林彪不回电是有难言之隐。

其实，林彪并不想死守四平。从锦州开始，他就竭力避免与国民党优势兵力进行决战，他的口号是“撤退、撤退、撤退”，“被动、被动、被动”。但是，中央不同意撤退。四平保卫战期间，中央多次发来电令：“时局正在变化，望死守四平，寸土必争”，“要打到敌人精疲力竭”。在一次电文中，中央甚至把四平保卫战称为“中国的马德里”。

5月上旬，国民党部队又开始大规模进攻与四平毗邻的本溪市。兵力已增加到十七个团。本溪是中共东北局等党政军机关的住地，仅有辽东军区的十一个团防守，防御面既宽且广，外围突击力量薄弱，工事也不坚固，战斗形势十分不利。5月2日，辽东军区鉴于敌众我寡，电告林彪，“死守本溪将是孤注一掷，对于长期斗争不利”。林彪同意辽东军区撤出本溪。

进占本溪的国民党军队迅速向四平集结。5月15日，白崇禧、杜聿明集中十个师的兵力，组成三个攻击集群向四平街地区东北民主联军阵地发起全面进攻。

情况确是万分危急，战局的关键在四平右侧的塔子山防线，这里成为封闭东北联军的最后一个缺口。林彪电令三纵：“塔子山尽可能再支持一天。”不久，三纵回电：“新六军攻占西丰、平岗后，于晚六时进占哈福站。”林彪厉声重申：“再命塔子山守军，至少明天要顶半天，不惜一切牺牲。”

林彪不顾中央电令，决心撤退，他把后方总政主任陈正人和野战部队政治部副主任陈沂叫到指挥部，口述《为撤退四平告全军书》要点。他的心情十分复杂，说：“估计敌人明天就可占领塔子山，廖耀湘(新六军军长)必定要以全力攻塔子山。塔子山如失守，敌人就可以从我后侧迂回，封闭四平我军的退路，那时我们就完全处于被动，且有被歼之危险。”

对这次战斗，林彪用“顽强”来形容：“我们已经大量消耗了敌人，并赢得了时间。我们的保卫战是顽强的，特别是我们每一个部队，都在一定程度上得到了锻炼。”说到这里，他忍不住长叹一口气，说：“只可惜我们后面没有好好珍惜和利用这个时间。”看得出来，他对后方主持工作的负责人流露出强烈的不满。他意味深长地对站在自己面前的所有人说：“和平空气，在我们今天的东北是最害人的。我们对全部美械装备的敌人还是估计不足，三纵的防线被新六军迅速突破，影响保卫战的全局，这是最大的教训。”

林彪亲自起草电文，向中央提出弃守四平。5月19日，中央终于发出了给林彪的撤退令：“如果你觉得继续死守四平已不可能时，你应主动地放弃四平，以一部在正面迟滞敌人，主力撤到两翼休整，准备由阵地战转变为运动战。”

其实，早在5月18日当晚，林彪即指挥部队且战且走，开始大踏步后撤。

5月19日，彭真与罗荣桓赶到前总，找到林彪，随后在公主岭附近的范家屯开会，讨论下一步行动计划和作战方针。会上，出现了两种尖锐对立的意见。一种主张坚守长春，不能再退了；另一种主张果断弃守长春，大踏步后撤，撤至松花江以北。

“固守长春，无异于划地为牢。”林彪从军事上举出了一大堆理由：“长春人口九十万，防线百余里，需要大量的守军。如果敌人先围城，同时集中飞机、大炮、坦克掩护步兵攻击一点，我军则既不可能守住城市，又要丧失运动战的机会。所以今后主力仍以打运动战为好。”

林彪的意见没有得到大家热烈响应。四平血战中，联军虽然歼敌万人，但自己损失也达八千余人之多。撤退中，联军又遭到国民党军机械化部队的追击，继续受损，其中有一个师一个旅暂时失去作战能力。各级指挥员中弥漫着一种拼命情绪。彭真也不主张撤退过猛。

关键时刻，罗荣桓挺身而出，旗帜鲜明地支持林彪的意见。他说：“长春、吉林都是大城市，不利于防守，防线又宽，现在部队打得很疲劳，如果守长春，敌人从梅河口沿奉吉线插到吉林，就会把我们的后方打个稀烂。到那时，不但长春防不住，非退到西满和蒙古大沙漠不可。我赞成撤出长春，一直退到松花江以北。”

这种大规模的撤兵与中央当时指示的寸土必争的指导思想大相径庭。林彪于5月20日和27日，连续两次发电报告中央，陈述自己的主张及其理由。他在电报中，特地提到罗荣桓已回到前线参予指挥，也同意他的意见。

撤兵的决定下达后，部队许多干部，包括高级干部想不通，有怨言。罗荣桓逐个找干部交换意见，要求他们服从林总的决策。

在罗荣桓的协助下，林彪处变不惊，应乱不慌，在十五天内，硬着头皮把二十万联军带过了松花江，撤退到哈尔滨，成功地摆脱了国民党军队的追击。这十五天，是东北联军生死攸关、极为被动的日子。

“打了这么多年的仗，还从来没有这样被动过。我们一个劲儿地撤，敌人一直在屁股后面追，就像拖了个尾巴。”罗荣桓不无忧虑地对林彪说。

林彪信心十足：“被动过后就会主动。过了江就主动了。”