1954年1月，根据中央关于“要查清这批日本战犯的罪行，并为今后处理做好一切准备”的指示，在最高人民检察院党组领导下，最高人民检察院从中央机关和各省市有关部门调集366名干部成立了东北工作团。工作团设办公室、询问室。询问室下设4个大组，具体负责对日本战犯的侦查审讯工作。

1954年3月，东北工作团到达抚顺战犯管理所，开始侦讯工作。侦讯工作历时两年多，先后派出了专案组分赴全国12个省，开展调查取证工作。查阅档案8000余件，提取人证2.67万件。并将讯问、调查、取证核实的43.14万页材料装订成2918册案卷。

在此基础上，东北工作团根据中央“惩办少数，宽释多数”的总方针，开始着手战犯处理工作。

1954年，中国宣布对417名日本战犯予以特赦。

1956年4月25日，第一届全国人民代表大会常务委员会第34次会议通过了《关于处理在押日本侵略中国战争中战争犯罪分子的决定》，同日，中华人民共和国主席毛泽东发布命令，予以公布。

在本次人大常委会会议上，还任命了最高人民法院特别军事法庭组成人员。庭长由最高人民法院刑事审判庭庭长贾潜担任，副庭长由中国人民解放军军事审判庭副庭长袁光少将和最高人民法院刑事审判庭副庭长朱耀堂担任，下属审判员8人，主审法庭设在沈阳。

侦讯组办公旧址——借用高尔山森林调查队办公楼

中华人民共和国最高人民法院特别军事法庭外景（沈阳，1956年）

在最高人民检察院党组领导下，为使战犯从意识上正确对待审判工作，管理所及时召开战犯座谈会，组织讨论。在座谈会上，战犯三轮敬一，小山一朗等6人作了大会发言，他们泪流满面地表示认罪服法，要求中国政府处以极刑。会上还有不少战犯表示，如果初来中国时，被判死刑，我要喊“天皇陛下万岁”、“大日本帝国万岁”。今天被判死刑，我要喊“中华人民共和国万岁”、“中国人民万岁”。还有30名战犯写出要求处死自己的申请书。

当法庭为每名被告指定了辩护人时，他们说:“我们的罪行，全世界人民共知，没有辩护的余地，只要法庭给予我们向中国人民谢罪的机会就满足了。”后经管教员耐心说服，他们才同意找辩护律师。