AI攻击越来越隐蔽，中国网信办官员：这是国家安全关键变量

中央网信办副主任王京涛近日表示，人工智能驱动的网络攻击已经呈现出智能化、自动化的趋势，并且变得越来越隐蔽，已经成为影响国家网络安全的重要因素。根据国际数据公司的预计，到2028年中国的网络安全市场将达到171亿美元，而到2023年的时候这个数字只有110亿美元。

“用人工智能来对抗人工智能”，这句话已经由一种理论变成了现实中的一种常态化的攻防态势。以前的网络攻击是靠人工去挖掘漏洞、编写脚本，而防御方则依靠规则库以及人工排查来应对，但是仍然不能及时跟上攻击的速度；现在的攻击方使用人工智能来自动发现漏洞，并且可以自动生成各种变种的恶意代码，而我们的防御速度稍慢一些，但是造成的损失将会是几何级数的增长。绿盟科技这样的企业推出了智能渗透测试系统，本质上就是被迫使用魔法来对付魔法，传统的被动防护模式已经完全跟不上时代了。

更加要引起注意的是一个新的变量的出现——智能体自己也成了攻击的目标。随着人工智能智能体被赋予了任务规划、工具调用、数据访问等权限之后，它不仅不再是防御工具，而且自身也成了新的攻击入口。如果智能体的权限被劫持或者诱导的话，所造成的损害要比传统的账号密码泄露要严重得多。因此奇安信、蚂蚁集团等企业也开始专门研究智能体的安全访问控制和行为监控——安全边界正由原来的“网络”扩大到每一个能够自主行动的人工智能。

技术攻防的战场从不会停止，而人工智能只是把这场比赛的速度加快了很多倍。谁先补齐供应链安全、智能体安全这两个新的短板，谁就掌握住了下一段网络安全的主动权。