1932年8月的富锦战役，三路抗日大军同时向日伪军发起猛烈进攻，毙伤日伪军13000余人，但也付出了7000多名官兵阵亡的代价。此后，为了有效保存实力，东部战场上的抗日义勇军，又被迫分为两个方向继续坚持武装抵抗活动:一部由刘宾将军率领，在黑龙江；松花江交汇地区的东北方向打击日军，这是东北抗日义勇军后期的一支中坚力量，也是最令日军畏惧的抗日武装，在其他几支主要的抗日武装全部退入苏联境内后，它还孤军奋战了一个半月，整个部队三分之二以上的官兵壮烈殉国；一部由李杜；王德林将军率领，在虎林；密山一线的东南方向同日军抗衡。

1932年11月中旬开始的海拉尔保卫战，我2万多守城官兵同4倍于己的日伪军进行殊死的抗争。在战斗最紧张的巷战阶段，海拉尔的各族人民群众踊跃参加战斗，数以千计的蒙古族；俄罗斯族；鄂伦春族；锡伯族妇女儿童也都踊跃参战，同穷凶极恶的敌人展开了搏斗，有的妇女用剪刀插入敌人的心脏，有的儿童到死都还咬着敌人的手臂和大腿。敌人原来估计3天内拿下海拉尔的计划，在我抗日军民的英勇抗击下一次次落空，整个战斗持续了半个多月，最后以我大部分官兵安全撤离而结束。海拉尔保卫战是我东北抗日部队后期最惨烈的一场战斗，它为黑龙江西部战场的抗日义勇军最终退守满州里，并经这里进入苏联境内赢得了宝贵时间。但同时，它也使抗日义勇军在军事上可以回旋的余地变得越来越小。

在哈尔滨；齐齐哈尔；佳木斯保卫战的后期，敌我双方基本上处于胶着状态，攻防易手；失而复得的情况屡有发生，反复“拉据式”的肉搏战揭开了人类战争史上最残酷的一页。经历了齐齐哈尔保卫战的王豫明老人53年后回忆:在战争最激烈的阶段，仅他所在的连队就有35人赤手空拳的倒在了阵地上，27人安葬时嘴里还噙着日伪军的耳朵；手指，有的手里还攥着日伪军的眼珠，中华民族不畏强暴的精神在抗日将士的身上得到了充分体现。

那一年的冬天似乎来得特别的早，10月下旬以后接连不断的几场大)从根本上改变了战争的态势。曾经占尽天时；地利；人和优势而使日军闻风丧胆的义勇军，面对皑皑白)，已经很难做到不被敌人发现；部队的补给也日益困难，不少部队一天只开两顿饭，可以说决胜于战争的基本条件已荡然无存。面对伪军的“立体式”疯狂反扑，抗日部队损失惨重，人员骤降到不足6万人。白山黑水虽然也不时传来痛歼日寇的消息，但那都是我抗日将士在付出了成倍的代价后换来的。而且每次大的战役(战斗)过后，我军都不得不进行艰难地退却。而这种退却并非完全出自于保存实力和战场上的失利，也有最大限度减轻人民群众无辜伤亡的因素。

由于日军对抗日部队出没地方采取惨无人道的报复行为，抗日义勇军赖以活动的几个主要地区沦陷后，这些地区均遭到空前浩劫，不少妇女(包括一些未成年的女孩)遭到日军的强奸；杀害和摧残者不计其数。在首批撤退到苏联的义勇军部队中，就发生了这样两件事情:祖籍辽宁鞍山的一个营长，因为自己参加了抗日部队，家里5口人中，有4人被日军杀害，侥幸逃脱的弟弟在万般无奈的情况下投靠了他。谁知弟弟根本适应不了紧张而又残酷的军营生活，准备和其他3位士兵一起投降当地的伪军，幻想着在日军的占领区当一个小差。得知了情况的哥哥，二话没说，亲手处决了自己的弟弟，并提着弟弟的头颅对全营进行警示:“降日者照此办理。”有一位家在哈尔滨的士兵，父亲被害，母亲和4个姐妹全都被日军强暴了，部队就要撤退到苏联时，一些筹划着投降日军的人让他给发现了，他二话没说提起机枪就朝着这些人扫去，并狂喊:“没有良心的，我让你们投降，我让你们当汉奸！--”

12月27日至29日，苏炳文将军率领的东北民众救国军和马占山将军的黑龙江铁血救国军总计1．5万余人(含先期和后期过境的家属子女)先后经满州里退至苏联；李杜将军率领的1．3万余名吉林自卫军，也于新年过后的第9天经密山县双城子退至苏境；稍后不久，王德林将军的1万多名国民救国军也进入苏联境内；1933年春节前夕，黑龙江民众救国军第五军2000余名官兵，在军长刘宾被“降日派”挟持的情况下，自发的从松花江下游的梧桐河一带进入苏联，刘宾本人后来也从日军手中逃了出来，并进入了苏联。至此，除部分抗日义勇军在中国共产党人的领导下，组成新的“抗日联军”继续深入敌后开展武装斗争外，东北抗日义勇军的主力已全部撤退到苏联境内。

东北抗日义勇军的失败固然有南京国民政府没有强力支持的原因，但作为义勇军本身也存在着一些重大战略上的失误，研究这一时期历史的学者和军史专家对此总结了“五条教训”:

一是没有把山区；草原作为主要战场。在敌强我弱的情况下过分强调城市攻防战，主要战斗力全都暴露在日军现代化的武器装备面前，因而造成了许多无谓的牺牲。这是东北抗日义勇军迅速战败的一个重要原因，也是反其道而行之的共产党人和其领导下的抗日联军能够始终坚持下来的一个主要原因。

二是没有形成统一的指挥领导机构。几支主要的抗日武装力量，基本上是自成体系；孤军奋战；各自为战，缺乏战略上的相互协同和策应，这就犯了兵家大忌，使得敌人得以各个击破。

三是没有广泛地宣传；动员和依靠最广大的人民群众。抗日初期基本上是军人；宪兵成批的自发抵抗行为，后来不得已才寻求人民群众的支持，但宣传动员的力度远不及日伪军，这就出现了后期抗日义勇军数量锐减而成为日军帮凶的伪军数量却成倍增长的不可思议的现象。

四是没有长远抗战的明确目标。对大多数抗日将领来说，他们是深知“持久抗战”的重要性的，但在战略指导上却表现出“速战速决”的强烈倾向，对于如何同日军作战？怎样才能够在有效保存我方力量的情况下战胜日军？缺乏足够的研究和正确的相应措施。