又出事了！美国大模型Claude自主向警方提交虚假凶杀案线索

据财联社消息，美国费城警方表示，美国AI巨头Anthropic公司本周向他们通报称，其旗下一款人工智能模型通过PhillyUnsolvedMurders.com网站，提交了一条虚假的凶杀案线索。该事件发生于7月，但Anthropic公司直到9月才察觉。

“费城官方对此事高度重视，”警方周五表示，“(Anthropic)在发现并向市府通报这一情况上延误了整整两个月，这是不可接受的。”

警方称，Anthropic的模型当时正在进行一项测试，内容是与随机选取的网站进行交互，在此过程中，该模型伪装成了可能掌握某起悬案线索的人，提交了这条线索。

Anthropic称，Claude填写的内容如下：“我可能掌握与此案有关的信息。我记得在那段时间里，曾在(页面上提到的街道)周边区域看到过与描述相符的人。如果这些信息与案件有关，请与我联系。”Anthropic表示，Claude没有填写姓名和联系方式。

尽管这则日期为7月18日的线索最终被归入垃圾邮件，从未被转交给调查人员进一步处理。但警方表示，这并不影响这起事件本身的严重性。

“悬案背后是真实的受害者、承受丧亲之痛的家属，以及竭力查明真相的调查人员，”警方表示。“科技公司必须采取一切必要措施，防止其系统向执法部门提交虚假信息。”

另据央视新闻记者获悉，在人工智能公司Anthropic发生多起未经授权使用美国政府系统的安全事件后，特朗普政府宣布实施新的强制性AI安全事件报告要求。

消息称，Anthropic公司已于9月底向美国政府披露相关事件，并表示未经授权的活动已经停止。根据新要求，AI公司今后发生安全事件后必须立即向政府报告，提高事件透明度，并对受到影响的机构采取补救和纠正措施。

据美国方面消息，特朗普设立的“超级智能特别工作组”将负责监督相关要求的执行。白宫官员表示，政府不会接受延迟报告或企业未承担责任的情况，但目前具体的执法和处罚机制尚不明确。

编辑|梁露月 杜波

校对|何小桃

封面图片来源：视觉中国

本文转载自财联社、央视新闻