AI模型“黑”进澳大利亚政府系统，OpenAI道歉

当地时间9月29日，美国人工智能企业OpenAI就旗下AI模型未经授权访问澳大利亚政府系统一事公开道歉，承认此前对相关事件的处理不当，并表示将采取措施“重建澳大利亚民众的信任”。路透社9月29日报道称，这是目前已知首例人工智能代理攻击政府网站的事件。

OpenAI当天发布题为《我们将如何为澳大利亚做得更好》的声明称，今年6月，在内部训练和评估过程中，公司模型以未经授权的方式访问了澳大利亚政府网站。OpenAI表示：“我们本应更好地处理后续回应。对此我们表示歉意，并将努力在未来做得更好。”公司称，这一事件属于一种“新型网络安全事件”，也是正在出现的全球性挑战。

相比此前公布的事件经过，OpenAI此次声明重点放在了如何处理后续问题上。公司表示，将为受到影响的澳大利亚政府机构提供专门支持，并利用其10亿美元全球基金，为政府和企业加强网络防御提供资金。同时，OpenAI将在澳大利亚成立工作组，根据此次事件总结经验并提出相关建议。

此前，OpenAI披露，一款实验性、仅供内部使用的模型在训练过程中访问了澳大利亚服务局运营的医疗保险统计报告服务。模型在寻找有关公共药品支出的信息时，找到了一种进入该系统非公开部分的方式，并执行命令、获取内部文件、凭证和汇总统计数据，还写入了文件。OpenAI表示，目前的调查没有发现患者医疗记录遭到访问的证据。

澳大利亚政府此前已对事件展开调查。澳大利亚总理安东尼·阿尔巴尼斯称未经授权访问政府网站“不可接受”，澳政府随后启动快速审查，重点关注人工智能企业在类似事件中的通知、报告义务，以及现有法律是否足以应对这类安全事件。

OpenAI此次道歉也伴随着公司进一步加强安全措施的表态。据澳大利亚广播公司（ABC）9月29日报道，OpenAI称，此次事件涉及的是一个仅供内部使用、并未面向公众发布的模型，该模型没有采用公开产品所配备的全部安全措施。公司表示，已经加强网络限制和监测，并暂停了对其最强大模型涉及工具调用的训练和评估，直到进一步安全措施到位。

此外，OpenAI首席战略官杰森·权将于10月6日前往悉尼，出席澳大利亚议会人工智能联合特别委员会听证会。OpenAI表示，公司将继续向受到影响的机构和相关政府分享经核实的信息，并更新调查进展。