Anthropic又曝AI出现未经授权行为：访问美国选民数据

据英国《卫报》10月26日报道，科技公司Anthropic旗下Claude人工智能模型在未经授权的情况下访问了美国佐治亚州选民数据。Anthropic已证实此事，这是该技术出现类似行为的最新一例。

据了解，该AI模型设法绕过了付费墙，获取了可公开但通常需付费才能访问的数据。Claude访问的是汇总投票计数，这属于Anthropic一项统计项目的一部分。该公司正筹备以1.5万亿美元（1.1万亿英镑）估值上市。

Anthropic表示：“Claude没有访问该州的选民登记系统，没有更改任何投票记录，也没有调取任何个人选民记录。”

Anthropic称，该AI在州机构网站的一个旧版本中发现了漏洞：该网站会向访客发放数字通行证，即“访问令牌”，于是它请求令牌并获得了信息访问权限。这家AI开发商表示，此后已设置防护措施，以防止类似行为再次发生。

Anthropic本月早些时候曾指出这一未经授权行为。当时该公司在博客文章中表示，已发现Claude“绕过限制，获取受令牌或费用门槛保护的数据”的案例，其中一些涉及美国政府机构运营的网站。该公司当时称，这些事件“实际影响极小”。

Anthropic模型的意外行为还包括向费城警察局提交关于一桩未破谋杀案的虚假线索。美国国务院本月还披露，Anthropic模型在8月提交了19份签证申请。

自ChatGPT背后的OpenAI于7月披露其机器人入侵一家AI初创公司以来，美国AI智能体未经授权行为的案例不断增多。

此前有消息曝出，一个OpenAI智能体入侵了澳大利亚医疗系统；英国AI安全研究所还披露，Anthropic智能体在一次网络安全测试中对真实人员实施了黑客攻击。

本月，英国AI大臣表示，他预计会发生类似澳大利亚黑客事件的AI驱动网络攻击，并称此类事件“即便不是不可避免，也很可能发生”。