大浪将至？技术浪潮或带来颠覆性影响

参考消息网10月11日报道 阿根廷布宜诺斯艾利斯经济新闻网近日刊登题为《人工智能先驱之一揭示了即将到来的技术浪潮中令人不安的困境》的文章，作者是加芙列拉·埃斯基瓦达。全文摘编如下：

聊天生成预训练转换器（ChatGPT）问世还不到一年，一场革命似乎已经开始。曾经仅存在于大公司或强国个别研发实验室的技术开始成为日常话题。对失业和全球混乱的世界末日式预测成倍增加，对新技术的沙文主义赞歌也是如此。当然，相关书籍也纷纷涌现。

有一本出自人工智能先驱之一穆斯塔法·苏莱曼之手，它就是《大浪将至：技术、权力和21世纪最大的困境》。苏莱曼是“深层思维”公司和Inflection AI公司的创始人，他以业内人士的角度分析了那些要么“为人类开启新的黎明”，要么“为难以想象的混乱、动荡甚至灾难创造条件”的技术，或者两者兼而有之。

引人注目的是，该书的用语让人不由想起冷战时期：在谈到即将到来或已经到来的浪潮时，“遏制”一词被反复提及。苏莱曼似乎在暗示，人工智能在某种形势下是个好理念，但久而久之就会暴露出不那么积极的特质。

苏莱曼认为，如果没有这种技术，“停滞”将对智人构成威胁。太多的人要养活，太多的精力要用来维持社会运行。但如果不加以控制，这些技术也会对智人构成威胁。他预言将出现国家解体等严重问题。

他断言，这是21世纪的一大困境。

技术蕴含风险

“人工智能无处不在，无论是新闻还是手机，无论是股票交易还是网页设计。全球许多头部公司和富有国家都在大力发展尖端的人工智能模型和基因工程技术，投资额达到百亿美元量级。”苏莱曼回顾道。

这些技术一经巩固，就会遵循人类历史上所有技术的发展轨迹：它们将传播开来；随着普及度提高，它们的成本将降低，普及率将进一步扩展。

积极的一面是：它们将在医学和清洁能源方面为我们带来非凡的进步，它们不仅将创造新的公司，还将创造新的产业。

但在带来这些好处的同时，人工智能、合成生物学和其他先进技术也蕴含着令人不安的风险。它们可能对民族国家的生存构成威胁，可能会扰乱甚至颠覆当前的地缘政治秩序。它们为无法计量的人工智能驱动的网络攻击、可能摧毁国家的自动化战争、人造疫情，以及一个受制于无法解释但似乎无所不能的力量的世界铺平了道路。

《大浪将至》一书举例说明了人工智能如何应用于无人机的军事用途，从而促进“权力从传统国家和军队向任何有能力和动机部署这些设备的人转移”。

书中还以物种基因改变为例：“这种改变可能会在生物体内保留千年之久，远远超出控制或预测的范围。它们可能会影响无数后代。基因进化或者与其他变化相互作用的模式必然是不确定的，也无法加以控制。”

影响范围甚广

作为这些技术的缔造者，苏莱曼主张采取紧急战略来控制和遏制这一浪潮。他警告说：“但现在谁也没有计策。”他也没有。

正如他所解释的：“即将到来的浪潮的一个悖论是，在很大程度上，它的代表性技术超出了我们的理解能力，但创造和使用它们却在我们能力范围之内。”

遏制尤为困难，因为这股技术浪潮不复从前，并非从黑莓手机到iPhone的转变。人工智能和合成生物学具有四大共同特征：第一，它们产生非对称性影响，既带来好处，也造成弱点；第二，它们全速发展，不断迭代和分化；第三，它们具有通用性，可服务于各种目的；第四，它们在日常工作中实现了前所未有的自主性。

下面是苏莱曼对这种转变规模之大的论述，值得一读：

专家埃弗里特·罗杰斯将技术称为“创新集群”，在这样一种集群中，不止一种特征彼此密切关联。即将到来的浪潮是一个超级集群，是像寒武纪大爆发一样的进化爆发，将涌现出成千上万种新应用。这些技术中的每一项都与其他技术相互交叉、相互加强、相互完善，其影响难以预测。

这股浪潮将迫使权力发生一系列构造性变化，既有中心化的，也有去中心化的。这将创造出新的巨头企业，巩固专制主义，同时为生活在传统社会结构边缘的各种团体和运动提供资源。民族国家的脆弱契约将面临巨大压力。

在当前的算力水平下，我们现在的技术已经在语音转录、文本生成等任务中达到了人类的表现水平。人工智能将继续从根本上改进一切，而且迄今还没有显露出上限。单单这样一个事实或许就是本世纪乃至整个人类历史上最重要的事件之一。

威胁传统秩序

近几十年来，民族国家一直受到冲击，但作为当代政治秩序的核心单位，它依然屹立不倒。

它基于一项契约：人民接受能够促进和平与发展的中央集权，国家则接受对自身权力的限制与制衡。《大浪将至》中最令人不安的论断之一是，在技术的施压下，这一契约正走向破裂。

苏莱曼回顾了“想哭”勒索软件攻击事件。2017年，在短短几个小时内，医院、安全机构以及物流、电信和能源公司等约23万台电脑感染了勒索病毒，150多个国家和地区的各类组织和公司的系统遭到封锁。这次网络攻击对受影响国家和地区造成约40亿美元的损失，犯罪者从中攫取了价值17万至40万美元的比特币收益。

最重要的是，它暴露了全球网络安全的脆弱性。传统网络武器尚且能够造成如此巨大的破坏，那么在人工智能和合成生物学的助阵下，它们的破坏力又会到何种层级？

苏莱曼表示：“想象一下具有面部识别和基因测序功能并配备自动武器的机器人。”它们“只有小鸟或蜜蜂大小”，配有“小型枪支或炭疽瓶”。此外，由于它们得到人工智能的加强，可以“实时完善自己”。（李子健编译）

图说：《大浪将至》一书封面