OpenAI究竟在发生什么?简单说,现实利益与理想主义发生了摩擦。被董事会解雇的奥特曼(Sam Altman)支持有效加速主义,把推动人工智能发展置于首位;该公司首席科学家萨斯克维尔(Ilya Sutskever)更注重防范AI的风险,提倡人工智能的超级对齐。这本来就是人类发展AI的推力和制动力,缺一不可。现在Altman已经获得投资人和几乎全体员工的支持,占了绝对上风,萨斯克维尔已经倒戈。
▲奥特曼被罢免后以访客证件进入Open AI 办公楼(图源:奥特曼个人社交媒体)
尽管还没有最终结果,但这已经不是几个年轻科学家之间的争吵和博弈了,全体员工的利益加入了进来,资本的利益加入了进来,美国社会的商业利益和AI霸权利益加入了进来,有效加速主义战胜超级对齐,这个大方向、大趋势已经确定无疑。
人工智能超级对齐需要对齐的是人类安全,确保AI在强大起来的过程中,形成对人类的爱,这样的爱得是母亲(强大起来的AI)对婴儿(人类)一样的关照。OpenAI成立时注册成非营利机构,目的就是研究成果为全人类服务,避免被一家公司垄断。马斯克是它最早的投资参与者之一,后来OpenAI为了壮大,变成有限营利公司。在它发布了ChatGPT之后,展现出大河出川的无限前景,一旦完全商业化,很可能成为万亿美元的顶级上市公司,原来的初心还守得住吗?
事实证明,萨斯克维尔与董事会一起解雇奥特曼,但形势在几十个小时之内就出现反转,到目前770个员工中,超700名员工联署要求奥特曼回归,否则他们都将辞职,与奥特曼一起前往微软。这表明,在巨大利益推动下,超级对齐不可能在商业大环境下得到遵守,对它的打破是注定的。
奥特曼未必就不担心人工智能失控并对人类造成潜在伤害,但他力推的有效加速主义是照顾各方利益的现实主义选择。除非美国政府站出来干预,阻止人工智能在没有绝对安全措施情况下的突飞猛进,否则仅靠市场的自身力量,超级对齐不可能被长期遵守。
最坚持超级对齐的萨斯克维尔面对员工和投资者的强大反对,迅速倒戈,加入了要求奥特曼回归的联署,这应该也是他面对员工集体反对和投资人施压的无奈“变节”。这可以看成商业潮流中理想主义十分脆弱的冰山一角。是的,那么多投资人等着OpenAI一旦完全商业化并且上市而大捞一笔,更有无数公司等着OpenAI创造并开放大规模应用,实现在他们自己在各领域新一拨的成功。
而且,OpenAI投入更多资源去做人工智能安全,美国和其他国家私营公司会那样做吗?现在AI竞争也成为国家竞争的一部分,美国政府愿意美国公司的AI整体迭代速度慢下来吗?美国现在打击中国的重点目标之一就是我们的AI研发。老胡相信,华盛顿对奥特曼的路线压倒萨斯克维尔路线是乐见其成的。
▲当地时间10月17日,美国商务部发布新的芯片出口限制。美国商务部长雷蒙多称,此举的目的是限制中国“获得可能推动AI和精密计算机领域突破的先进制程半导体的途径”。(图源:外媒)
从远处观看OpenAI的这场人事大地震,和其中的戏中戏,老胡想到的是, OpenAI的人工智能研究确实进步得很快,他们说人工智能已经有了“意识”,发生这场路线之争,显示已经到了或者接近了人类需要抉择接下来准备冒多大风险的那个临界点。
我还想到,在中国互联网的聊天群里,我从没有看到相关知识分子和研究者群体对中国AI研究已经遭遇上述现实风险的讨论,我相信不是中国的知识分子缺少那样的责任心,更可能是我们的AI研究与美国的研究存在一个差距,那样的风险还没有形成我们这边知识分子群体的紧迫感。所以大家都在议论OpenAI的事情,谈得津津乐道,如数家珍。
AI刚开了一个头,它的纵深空间里都有什么,今天很难想象。中国一定要加快AI研发,那样才能提高我们了解AI深空的视野和立意。它不光是AI应用带动经济发展的问题,还有维护国家安全基本面,对塑造人类未来参与权的重大利益。
现在我们看着OpenAI几个年轻创业者之间玩“宫斗戏”,AI未来发展方向仿佛就由他们的斗争来决定,这是不行的。那么怎样才叫行?我们只有把自己的AI脚步加快,才能在那个速度中产生领会,并且获得话语权。
“特别声明:以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布,本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”