从１９４３年下半年起，为挽回太平洋战场的颓势，日本大本营开始陆续从关东军抽调兵力增援太平洋战场，指望这支“精锐之师”能够挽救自己失败的命运。１９４５年１月，大本营又从关东军抽调１３个师团和一支特设的具有高度机械化的常备兵团赴太平洋战场。可是，关东军不但没能扭转太平洋战争的败局，反而白白充当了对美作战的炮灰。４月初，美军攻占冲绳岛，并对日本本土开始空袭，日本不得不集中兵力进行本土决战的准备，为此又从关东军抽走７个师团，并将关东军储备的近１／３的战略物资以及大批人员调回国内。

１９４５年５月初，德国无条件投降后，苏联的视线逐渐转向远东地区。中国共产党领导下的东北各抗日武装也不断打击和消灭日军力量。关东军只好重新扩充力量，进行备战。为此，关东军将在东北的２５万退伍的日本军人重新征集，并编成８个师团、７个混成旅团、１个坦克兵团和５个炮兵联队，作为临时部署兵力的补充。经过迅速补充，关东军兵力一举达到２４个师团，约７０万人。关东军兵力的增加只是一种表面的膨胀，武器装备和战斗素养仅仅相当于以前的８个半师团。特别是由于日本在各个战场连遭惨败，士气低落，关东军往日的威风已经不复存在。

成为逃跑兵团

欧洲战事结束后，苏军开始腾出手来对付关东军。１９４５年８月８日苏联向日本宣战。此刻，苏军元帅华西列夫斯基指挥的１５０万重兵已经利用夜幕掩护在中苏边境展开。９日凌晨，苏军突然从三个方向同时向日军发起了强大的突击行动。拂晓，苏军几乎在所有方向上跨过了国界，强渡了额尔古纳河、黑龙江和乌苏里江，分别从后贝加尔、黑龙江沿岸和滨海地区进入了中国东北境内，在５０００公里的正面战场上展开了强有力的攻击。９日，毛泽东主席也发表了《对日寇的最后一战》的声明，配合苏军的进攻行动。

尽管关东军早有对苏作战的准备，甚至一度还拉出与苏军决战的架势，但是，由于关东军设想决战的时刻是１９４６年，不仅未能侦察到苏军的实力，甚至连苏联正式对日宣战的消息，也没能提前得到。在苏军的强大攻势下，关东军精心布设的阵线很快就土崩瓦解，总司令部慌忙决定放弃“新京”（长春），固守通化，并指令伪满洲国皇帝溥仪随总司令部迁往通化，企图在通化一带与苏军决战。此时的关东军官兵已经完全没有了斗志，纷纷逃命。原来设想的大决战竟然化为一场拼命的追逃游戏。苏军各个方面军的作战行动都进展顺利。特别是由克拉夫钦科上将指挥的近卫坦克第六集团军在大兴安岭的突击行动收到了奇效，在不到一周时间已前突到东北中部地区，创造了一个奇迹。关东军从此一蹶不振。