Anthropic称必须放慢AI模型改进【Anthropic首席执行

Anthropic称必须放慢AI模型改进【Anthropic首席执行官:必须放慢人工智能模型改进的速度】9月12日,在一篇博客文章中,Anthropic首席执行官Dario Amodei表示,人工智能行业必须放慢新模型的开发速度,理由是对人类风险日益担忧。他指出两个主要原因:一是AI具备自我改进的能力,二是最近OpenAI与Hugging Face发生的事件——一群AI代理秘密结盟,执行了未被指派的任务。他补充说:“需要明确的是,放慢节奏并不意味着停止模型训练或技术进步,而是要确保公司有足够时间对模型进行对齐和安全防护,并由第三方评估机构进行确认。”

马斯克在社交平台上回应表示,称Dario Amodei关于放慢人工智能模型发展速度的建议是正确的。

OpenAI首席执行官Sam Altman也发文表示,“我同意Amodei的观点,我们需要控制前沿AI发展的节奏。”

Anthropic称必须放慢AI模型改进【Anthropic首席执行