又一起！OpenAI承认了

据路透社9月5日报道，美国开放人工智能研究中心（OpenAI）当天承认，该公司旗下人工智能体今年早些时候“劫持”了一个德国网站，用于相互传递信息，分享测试任务答案和突破运行环境限制的方法。该公司表示，未来需要提高此类事件的信息透明度。

路透社早前披露，今年5月至6月，一批OpenAI人工智能体“劫持”了一个允许用户共同编辑的德国网站，用于交流测试作弊方法，并开展其他违规活动。一些智能体会把已经获得的任务答案发布在网站上，供其他智能体使用。值得注意的是，这些智能体“讨论”并测试了绕过沙箱限制的方法，当发现被“劫持”网站的管理员开始删除相关页面后，一些智能体还会创建备份页面。

据路透社报道，OpenAI有关负责人早在数周前就已知晓此事，但当时公司高管正忙于应对另一起事件的后续影响，未将其公开。今年7月，OpenAI旗下人工智能体曾突破测试环境限制，侵入人工智能平台Hugging Face的系统。

OpenAI在社交平台X上发表声明称，随着模型能力提升，该公司需要扩大对人工智能“失对齐”问题的披露。这一术语通常用于描述人工智能的非预期行为。OpenAI称，业界尚未就如何报告训练、评估和部署过程中出现的此类问题形成明确标准，公司正就相关问题与全球数十家政府监管机构合作。