新闻1+1丨人工智能安全治理，再升级！

9月14日，《人工智能安全治理框架3.0》发布，梳理更新人工智能安全风险分类，就优化调整技术应对和综合治理措施提出了建议。

三年时间里，一年一更新，当《人工智能安全治理框架》来到了3.0版本，这一次又做了怎样的调整升级？新挑战又在哪里？

△本期《新闻1+1》完整节目

人工智能出现能力跃迁

关注智能体引发的安全风险问题

过去三年，从1.0迭代到3.0，如何看待这样的更新频率和迭代节奏？3.0对比1.0、2.0，最突出的不同是什么？

中国政法大学人工智能法研究院副教授 文禹衡：三年推出三个版本，体现出我国人工智能治理 “小步快跑”的节奏。回看1.0版本，重点聚焦内生安全风险与应用安全风险；到了2.0版本，进一步关注安全应用的衍生风险，包括对就业、伦理层面的风险，同时提出可信人工智能的基本原则。

发展到3.0版本，人工智能出现重大的能力跃迁。从去年年底，大模型不再局限于回答问题，演进到以智能体为代表、可以主动执行任务的新阶段。正因如此，3.0版本更加关注智能体所引发的安全风险问题。

智能体风险已传导至现实世界

治理迎来结构性转变

框架有一处非常明显变化，把智能体风险、具身智能风险单独列出。为什么要做这样的安排？

文禹衡：从中能够看到治理层面的结构性转变。在大模型出现之前，甚至更早的信息时代、网络时代，更多是把物理社会当中的行为、现实世界的信息内容投射到网络虚拟空间。

但随着智能体执行能力提升后，情况发生了改变。智能体在虚拟空间产生的行为，已经可以向外溢出，传导到物理社会。也就是说，智能体、具身智能带来的风险，已经发生到我们的现实物理世界。从这个角度来说，我们才会特别关注它所引发的治理层面的结构性改变。

企业对标指引 赢得用户信任

这份治理框架不是一个强制性的法律，而是一个指引性的文件，怎么让企业，包括行业，需要把它落实为切实行动的主体，怎么把它落实为合规行动？

文禹衡：对企业而言，在于通过指引能够获得一些积极的效果。虽然它不是强制性的，但它是一个标尺，监管者在对企业进行相应监管治理的时候，可以把这个指引当作一个框架，当作一把尺子来衡量。从这个角度来说，企业首先自己要做到，这是一个方面。

另外一个方面，在市场信用上，企业主动做出指引3.0里面的规范性动作，对消费者和用户来说，会产生更好的信用。

“动态平衡”

实现安全与创新双向兼顾

3.0版本框架提到强化开源生态安全、供应链安全管理，特别是开源模型下的下载使用，明确了禁止性行为，划出了红线。如何看待发展和安全？如何平衡这个问题？

文禹衡：安全与创新之间，主要是双方站在两端的状态。但如果我们采取动态平衡的方案，在安全和创新之间，并不是找一个静态固定的平衡点，而是采取动态思维去治理。比如在创新过程当中，发现风险比较高，相应的安全措施等级也会比较高；如果风险低一点，我们就把安全措施的要求降低一点。通过动态平衡的方式，就能够更好地促进创新发展和安全治理跟进。

另外，我们认为不会抑制创新。因为在创新过程当中，如果没有做到安全，创新的破坏力就会更大。从这个意义上来说，从社会效应来说，它并不一定是真正有效的创新。

中国人工智能发展

一直侧重于安全与发展并重

最近有美国的科技公司负责人在呼吁人工智能企业要放缓训练大模型的速度、前沿技术发展的速度，甚至指出中国的人工智能领域保持着领先，会对美国国家安全造成风险。

文禹衡：这种论调是片面的。中国人工智能技术的领先与美国的国家安全之间没有必然的联系。人工智能的技术发展在我们国家是以人为本，所以我们一直侧重于安全与发展并重，从这个角度来说，我们不仅是对国内讲安全，我们对全球所有的主体都是一样的，以人为本。作为一个负责任的大国，在发展人工智能安全的同时，我们是把这个标尺放在全球来说的，所以并不存在影响美国国家安全的说法。

互信互鉴

推动人工智能国际合作

要推动国际合作，共治共享，有什么好的建议？

文禹衡：在国际合作、共治共享方面，我们采取的策略是首先大国之间要互信，在技术的发展方面更为重要，要采取合作的姿态。另外要互鉴，这个是从我们的治理规则或者我们的治理制度方面来看，各个国家之间的治理规则可以更好地取长补短。互信和互鉴是我们在这个领域里面，进行国际合作的两个重要抓手。

制片人丨王晓琛 孔茜

策划丨王茜

编导丨杨婷 郭丹丹 毕浩云 张昊

制作丨李阳 张小美 解超全 吕洋 段昊辰