而日本首相东条的情况，同样需要战胜的消息来支持，否则日本的军政领袖，已经对于他的领导与政策失去信心，东条将会被迫辞职。但是在争取这场决战的指挥上，蒋介石无法把最有战力的部队，从缅甸战场调回，因为这是史迪威争取华军指挥权的本钱。史迪威使用优势兵力，在缅甸获得胜利；而同一时候，蒋介石在华南却遭到日军猛烈的打击，所以罗斯福认为，这足以证明蒋无法应付日军的攻势，而史氏有能力指挥华军打败日军。在日本方面，东条则是将所有的军力，包括抽调关东军的二十军，以及日本本土的四十七师团，都投入了湖南的战场。

可是日军仍无法在七月攻下衡阳，同时日本又在缅甸与塞班岛遭到惨败的打击，日皇裕仁已经对于战局感到震动，东条在元老重臣集体的施压下，只有被迫辞职下台。蒋介石此时急切希望能够解衡阳之围，至少能够救出第十军。但是薛岳已无兵力驰援衡阳，因为他手边只剩下有限的残兵，退到湖南江西边界集结，又得不到兵力与装备的补充。不过在七月中旬，薛岳仍然设法从湖南、江西的边界，对日军的后方发动侧击。虽然这种攻击对于日军进攻衡阳的补给线造成压力，但是薛岳的兵力不足，攻击位置又远离衡阳，因此无法对日军造成真正的威胁，对于衡阳的守军，更是没有多大的帮助。这时蒋介石只有亲自介入，指挥六十二军、七十九军与九十九军，参与衡阳解围作战，但是由于作战密码完全被日军解破，让横山能够充分掌握到华军的作战动态，进行各种有效的拦截，并在在衡阳外围设下多面埋伏，造成华军更大的作战伤亡。中国援军的兵力与火力仍有限，始终无法突破日军层层的包围圈。此时第十军全靠一些美军的空投物资，继续进行防守作战。但是由于史迪威希望华军作战失败，所以对于陈纳德的空军支持作战，总是设法加以制肘。

陈纳德要设法四处张罗更多的油弹供应，以增加对日军的空中压制。陈纳德若是充分能够得到美国军方、政府全力的支持，应该可以达成阻绝日军补给的作战任务，因为日军支持衡阳作战的补给线，已经多次受到美机严重的打击，日军的弹药与粮食几度都无法接济上攻势的运作，其部队也濒临作战失败的压力。华军前往援救衡阳的部队，在七月底时，曾经一度前进到与守军只相差几公里左右的距离，但是最终还是被日军灵活的截击压退，没有达成救援第十军的任务。这时方先觉的部队，已经是伤亡过半，不但是弹尽援绝，连吃饭的补给都成了问题。但日军在衡阳的作战，也遭到极其严重的损失，迫使横山一度也在考虑，是否值得在此继续打下去。因为即使日军的作战力量，也到了极限。但是这场作战的胜负，已经成为中日两国军力对抗的荣誉之争了，说什么横山也不能放弃，何况关东军的战将坂西一郎，已经到达湖南，接掌长沙的指挥权，假如自己不力拼下去，最后的结果恐怕不妙，连职务都会有变数。最后横山勇决定，将日本十一军的全部军力当赌注，完全都押在衡阳，再增调十三、五十八师团，参加衡阳决战。他并且不惜代价的运送威力强大的巨炮，到达衡阳阵地，准备给孤立无援的方先觉部，最后致命的一击。八月二日，日军对衡阳发动最后一波的攻势，横山勇带病亲自前往衡阳前线指挥作战，而四个参战的日军师团长，当然更是不敢怠慢，全都陪着横山，准备拿出老命一搏。各师团纷纷组织敢死队，对华军阵地进行冒死攻击。日军的巨炮再度轰平华军的每一个阵地，日军的敢死队对华军的据点，一个接一个地展开攻击，守军只能做到寸土寸血的力拼。日军五十七旅团长志摩源吉少将，更是由自己担任敢死队的队长，亲自带兵冲锋华军阵地，结果战死衡阳。有受城市作战特别训练的五八师团，师团长毛利末广中将作战负伤，却不肯就医，躺在担架上亲临战场指挥作战，可见战况之激烈。

此时衡阳的决战，其惨烈程度已使阵地成为了人间地狱。蒋介石在最后时刻，仍然设法派军队救援第十军，连第五军的坦克车部队都派到战场。但是此时中国战区的华军，已经无法将士用命的拼力作战了。因为有了国际力量的介入与刺激，内部派系的猜疑正在死灰复燃，而更加恶化了军队人员不足、装备后勤严重缺乏、军心动摇、士气低落的情况，因此无法动员军力突破日军层层包围的防线。第十军方先觉部，在坚持血战四十二天之后，最后在八月八日，终于失去了抵抗的能力，日军也损失惨重，无力再进攻下去。因此双方经过交涉之后，在日军允许保持军队建制与荣誉，以及救助受伤官兵的条件下，结束了孤军拒敌的抵抗。