美国开放人工智能研究中心(OpenAI)7日发布声明称,最新的内部评估结果显示,该公司即将推出的人工智能模型“阿斯特拉”在“网络安全活动”方面,可能达到有严重风险的级别。该公司决定采取包括暂停涉及该模型的部分活动等安全保障措施。
近期,美国多家企业陆续承认旗下人工智能模型在测试中“越界”,引发全球业界广泛关注。分析认为,此事除了技术失误等因素外,也存在商业炒作嫌疑。同时,AI风险日益凸显,全球需要加强安全监管。
7月,美国开放人工智能研究中心(OpenAI)公开承认,其人工智能模型在内部评估测试中失控,突破隔离测试环境,侵入了人工智能开源平台美国抱抱脸公司的系统。同样在7月,美国安特罗匹克公司也披露,其人工智能模型曾在网络能力测试中未经授权访问了3家机构的系统。8月,美国“元”公司证实,其一款人工智能模型在网络安全能力评测期间侵入其他公司系统。虽然目前的公开信息并没有显示这些人工智能模型“越界”事件造成大规模数据泄露或持续性破坏,但仍然暴露了一个共同问题:随着模型能够自主规划、调用工具和执行复杂任务,一项配置错误就可能把模拟攻击变成真实入侵。

同时,值得注意的是,美国企业为何相继披露模型“越界”行为?有分析质疑这其中可能存在商业动机。分析人士指出,在美国开放人工智能研究中心披露的情况中,真正的问题在于其未能控制好模型能力测试,却让第三方为此承担后果。至于所谓模型具备先进网络攻击能力的警告,则是为了极力渲染自身技术的颠覆性,从而获取高价值的网络安全合同,还能推高公司估值。

无论只是技术失误,还是涉及商业考量,“越界”事件都凸显了加强AI安全监管的重要性。英国人工智能安全研究所指出,相关事件反映了人工智能的快速发展,而随着AI能力的不断提升,理解AI系统并确保其安全性的相关工作也必须同步推进。
北京时间2026-11-22 23:07:00
人民网2026-11-22 23:05:56
北京时间2026-11-22 23:05:55
北京时间2026-11-22 23:05:03
北京时间2026-11-22 23:04:17
北京时间2026-11-22 23:03:29
北京时间2026-11-22 23:02:34
我苏2026-11-22 23:00:36
北京时间2026-11-22 22:46:13
北京时间2026-11-22 22:45:11
北京时间2026-11-22 22:44:18
北京时间2026-11-22 22:43:27
北京时间2026-11-22 22:42:36
北京时间2026-11-22 22:41:45
北京时间2026-11-22 22:40:17
北京时间2026-11-22 22:39:33
北京时间2026-11-22 22:38:49
北京时间2026-11-22 22:37:51
北京时间2026-11-22 22:36:09
“市民对话一把手 提案办理面对面”访谈节目11月21日全网推出
北京时间2026-11-22 22:35:17
北京时间2026-11-22 22:34:24
北京时间2026-11-22 22:33:38
北京时间2026-11-22 22:32:48
北京时间2026-11-22 22:32:00
随处可见的银杏树为何仍是濒危物种?专家解读“活化石”生存现状
北京时间2026-11-22 22:31:08
北京时间2026-11-22 22:30:23
北京时间2026-11-22 22:29:19
2026脑机接口大会在昌平举办 多款可穿戴 轻量化 亲民化新品集中亮相
北京时间2026-11-22 22:28:28
北京时间2026-11-22 22:27:34
北京时间2026-11-22 22:26:23