12月12日晚撤退命令下达后，其余中国军队各部在混乱中进行撤退，其中自行通过下关码头渡江的大批部队争先抢渡。由于大部官兵无船可渡，一些官兵制造木筏渡江，在渡江过程中大批溺死或被日军打死：

第74军因组织较好，成功渡过5000余人，该部队后来成为抗战中国军队的王牌，并于抗战后整编为整编第74师。

作为中国军队最精锐的德械部队第87师、第88师，教导总队的第103师、第112师以及广东部队第83军156师，以及大批散兵，除少数人渡江外，数万未渡江官兵被日军俘虏后屠杀。

在南京保卫战中，整建制未能突出重围而被屠杀的，恰恰是作为最精锐部队的第87师、第88师以及教导总队两个师。然而这些部队的最高指挥官（第87师孙元良、第88师王敬久、教导总队桂永清）却都放弃部队并成功逃亡。