联合国官员警告：核武器中使用AI极其危险

近日，美国空军“人工智能测试与行动计划”负责人汉密尔顿举了一个模拟案例，让人不寒而栗：一架执行压制防空任务的AI无人机为在模拟测试训练中得分，“杀死”了阻止自己得分的操作员；在被“告知”杀死操作员要扣分时，这架AI无人机又通过攻击通信塔、中断操作员与自己的联络来夺得测试自主权。

近年来，随着AI技术突飞猛进，许多国家都在积极推进人工智能在武器装备领域的应用。一方面，接入AI让军事系统极大提升了效率和杀伤力；但另一方面，AI结合武器（特别是核武器）一旦产生技术和伦理上的漏洞，造成的结果或将非常可怕。

6月27日，联合国裁军事务高级代表中满泉在一场会议上发言表示，在核武器中使用AI技术极其危险，可能会导致灾难性的人道主义后果。这并不是近期她第一次警告相关风险，其23日在个人账号上公布的一份发言稿中称，核武器带来的相关风险达到了前所未有的高度。

↑中满泉

联合国官员多次强调：

AI在武器中的应用，是极其危险的概念

27日，中满泉在“联合国裁军研究2023创新对话”活动现场表示，“人工智能在武器中的应用，是一个极其危险的概念。例如有些国家预先授权AI可以在某些条件下发射武器，尤其是核武器，这可能会导致潜在的灾难性人道主义后果。”

中满泉担心，在人工智能的支持下，各国战场情报监视侦察能力可能得到迅速增强，并在冲突时期被用于提高杀伤力和攻击的精确性。中满泉警告不能盲目追随技术，并强调人类应该决定何时以及如何使用AI机器，而不是反过来让AI控制自己的决策。

此前，中满泉在巴西首都巴西利亚举行的一场研讨会上表示，“我们国际社会需要坦诚地承认目前的困境，我们正面临着一场前所未有的危机。在核武器方面，它体现在核秩序多极化的迅速发展上。冷战的两极格局正在让位于更加复杂的地缘战略竞争，核大国、地区核竞争和核扩散危机被紧密地联系在一起。”

AI改变战争形态

多国研发人工智能武器系统

以色列国家安全局局长罗南·巴尔27日表示，该国正在借助AI技术打造“网络铁穹系统”，用以增强国土防御。巴尔在特拉维夫大学的演讲中表示，该项目研究工作已经起步，并且获得了多个国家的支持。“网络铁穹系统”将使用AI技术自动侦查识别威胁来源并做出反应。“为了提高AI技术的准确性，我们将和很多科研机构和科技企业共享数据，提高研究质量。”

↑以色列部署AI机械枪

“网络铁穹系统”并非以色列第一次在武器系统中引进AI技术。2022年，以色列军队引入了AI机械枪，该系统号称能确保枪械准确地击中目标，避免误伤他人，在“恐怖分子”混入平民队伍等情况下非常实用。以色列军方当时表示，AI机械枪绝不会使用实弹射击，只会发射催泪弹、橡皮弹等，并会受到人工监管。安装了这个机械枪的双枪炮塔位于约旦河西岸al-Aroub难民营的防卫塔上。一位难民表示，以色列士兵仅需轻轻按键便能轻易地击中目标，他曾看到AI机械枪发射的催泪弹射程可覆盖到难民营的尽头。

今年1月，美国国防部在发布文件显示，其在十年来首次关注“人工智能（AI）自主武器”。专注人工智能武器化领域的美国麦卡利斯特学院教授詹姆斯·道斯表示，美国在设想扩大人工智能在未来军事行动中的作用。美国和北约在俄乌冲突中吸取了关键教训：武器化人工智能是战争的未来。“俄乌冲突引发了一场全新的、围绕军用人工智能的全球军备竞赛。”

6月，英国前内阁大臣塞德威尔勋爵敦促英国军方在人工智能方面继续投入巨资，以便英军“发挥其影响力”，并保持在国防科技能力的最前沿地位。他还呼吁英国政府要在AI领域“大量投资”。英国首相苏纳克此前宣布，英国将在今年秋天举办一次人工智能全球峰会。

随着AI技术的突飞猛进，军事领域越来越依靠AI机器人的作用也是不争的事实。但AI技术的安全性和伦理道德操守依然存在令人担忧的地方。

据解放军报报道，此前美军一次演习中，美第三机步师用3台“利剑”机器人进攻一个据点，由于软件故障，其中1台“利剑”机器人竟调转枪口对准美军操作员。该操作员反复尝试取消行动均未成功，直到有人用火箭筒将其炸翻。

红星新闻记者 郑直