1937—1938年国际形势极其险恶，法西斯德国、意大利、日本气焰嚣张，已侵略了许多国家，在这种情况下，斯大林竟指挥内务部开始清洗军队中红军的优秀干部，在这两年中有几万忠于苏共的指挥员和政委被杀害了。

1937年6月12日苏联报纸公布一则消息，说揭露了一起军事阴谋，罪犯组织反苏军事中心，充当德国间谍，其策划者被处决。涉及此案有助理国防委员图哈切夫斯基元帅，基辅军区司令雅基尔将军，白俄罗斯军区司令鲍列维奇将军以及其他许多高级将领。几天后，这些人被指控犯有叛国罪，被逮捕并遭处决，随即斯大林在军队中进行了全面清洗。

1937年8月斯大林在红军政治干部会议上发言号召在红军中根除“人民敌人”，并要求把他们的活动汇报上来。斯大林这番讲话之后，苏联国防人民委员伏罗却洛夫和苏联内务部人民委员叶若夫对武装力量向部队提出了要求：凡是和间谍多少有关系的人做出交代，那些多少知道或怀疑别人有间谍活动的人要汇报。

根据斯大林、伏罗却洛夫和叶若夫的这些指示，在1937年下半年到1938年期间镇压机构对红军的基本骨干给予了一个接一个极为沉重的打击。苏联国防人民委员部中央机关，工农红军政治部，苏联革命军事委员会，各军区和海军舰队大部分军、师、团的大多数重要领导班干部都被捕了。国内战争时期最优秀最出色，最著名的红军将领几乎全部清洗了。大清洗使苏联的军事人才几乎损失殆尽。

在这次运动中，共有3.5万名军官被镇压，其中包括高级军官的80％，元帅的3／5，涉及所有的军区司令和绝大部分集团军司令；第一批被授予元帅军衔的5人中，有图哈切夫斯基、叶柳赫尔、叶戈罗夫3人被处死；15名集团军司令中，也有13名被杀；85名军长中，处决57人；159名师长，110名被处决；4万多名营级以上高中级军官遭到迫害。

这一切都发生在人类历史最残酷的战争——第二次世界大战前夕。苏联红军骨干的丧失，使不久后的苏联卫国战争深受影响。第二次世界大战结束后揭露出来的材料证明，图哈切夫斯基、雅基尔等所谓“叛国罪行”是纳粹德国蓄意制造的一起假案，而苏联在肃反运动中轻信了虚假情报，酿成了一个大错案。1956年以后，苏联当局为图哈切夫斯基、雅基尔等人恢复了名誉。

即使作为“大清洗”工具的保安机构——内务人民委员部自身也无法幸免，其成员被不断更新，以维持对领袖的忠诚或被当作替罪羊。肃反运动前期领导内务部的亚哥达因不能满足斯大林的要求而于1936年9月被更加心狠手辣的叶若夫取代，不久亚哥达被捕并于1938年被处决。叶若夫在按斯大林旨意把肃反运动推向最高潮后，也遭到同样下场，1938年7月被贝利亚取代，并在1940年4月1日被毫无根据地以“镇压苏联人民”的罪名而枪毙。

此外这场镇压运动波及到各个领域。在知识界、历史学家、生物学家、数学家、艺术家，数以几千计地被迫害被流放。斯大林曾授意肃反机构枪决乌克兰的几百名民间歌唱艺人。这些民间艺人是民族文化的活化石，他们的歌曲从来没有文字记录，得靠师徒代代相传才能将歌曲传下去。音乐家肖斯塔科维奇说：“每当他们枪决一个民间歌唱艺人或者走方说书的艺人，几百首伟大的音乐作品就和他一起消失了。”

斯大林的镇压同样触及到莫斯科的外国共产党人。列宁的老战友，瑞士的普拉敦和波兰文字的加涅茨基都被处决。波兰共产党因此解体，西乌克兰和东白俄罗斯的共产党也莫不如此。拉脱维亚、爱沙尼亚、立陶宛等国共产党都有受到镇压，还有南斯拉夫、保加利亚、中国、朝鲜、伊朗、印度等国的一些共产党领导人。