好多瓜！Altman与Dario闹掰内幕给我看爽了

假期第一天，两眼一睁就是疯狂吃瓜！

Anthropic创始团队集体出走OpenAI，更多“分手”细节曝！光！了！

2020年12月，Dario Amodei带着另外6名核心成员，在OpenAI全员会上宣布离职。

会议聊天框里，时任OpenAI政策负责人的Jack Clark刚敲下一句：

我爱你们所有人。

结果屏幕居然立马黑了，再一看，好家伙——

7人被集体移出会议，邮箱和Slack权限当场撤销，连公司电脑也被远程锁死。

啊这。。。（知道你无情但你也太无情了吧）

但话说回来，这场“分手”也不存在谁毫无防备。

OpenAI这边拔网线够快，Dario他们也早就建好了创业群。

正式摊牌前，7人已在秘密Slack群里盘算带哪些研究员、去哪搞钱、要多少GPU，连新公司名字都提上了日程。

他们给这场谈判起的代号更是毫不遮掩：

The Divorce，离婚（真就父母爱情doge）。

谈崩以后，双方甚至认真讨论起了“离婚协议”：

Dario团队可以带走多少OpenAI员工？多久之内不能互相挖人？内部研究资料能不能拿走？分开以后，能不能公开说对方坏话？

一套流程下来，除了没分房子，基本什么都分了。

最早的裂缝，从一个大胆计划开始

这些新瓜，来自《大西洋月刊》最新长文。

作者Kevin Roose为写作新书《The AGI Chronicles》，采访了超过150名相关人士，还拿到了内部邮件、聊天记录等未公开材料。

而故事里的两位主角，正是如今AI圈最有名的一对“前同事”：

OpenAI CEO Sam Altman，以及Anthropic CEO Dario Amodei。

两人的不和，早已摆在明面上。

2026年2月的印度AI峰会上，莫迪邀请台上的AI大佬手拉手合影。轮到Altman和Dario，两人谁也没伸手，最后只勉强碰了一下胳膊肘。

塑料同事情，算是彻底具象化了。

不过，这两个人一开始可不是这种画风。

Dario不仅曾在OpenAI工作，还是公司早期大模型路线的核心推动者之一。

GPT-2、GPT-3背后，都有他的参与。

他与Altman之间的裂缝，最早要追溯到2017年。

而导火索，据称是OpenAI一个后来被搁置的大胆计划，代号“Countries”。

当时马斯克逐渐淡出OpenAI，公司急需寻找新的资金来源。

管理层最初设想组建一个国际联盟，让多个国家共同开发AGI、分享收益并管理风险。

但据五名知情人士透露，这个方案后来逐渐变味：

OpenAI考虑让美国、中国、俄罗斯等国家出资，竞争未来优先使用AGI的机会。

Dario一听，直接坐不住了。

他在内部邮件中警告，这么做可能加剧各国在AI领域的竞争，考虑到不同国家在制度和立场上的差异，AGI最终如何被使用，也可能脱离OpenAI的控制（Dario的立场，估计大家也都清楚）。

而且他强调，更根本的矛盾是：

一旦OpenAI开始用未来的AGI使用权换取资金，它还怎么证明自己是在为全人类服务？

OpenAI对此否认，称公司当时讨论的只是国际合作，从未考虑向任何国家“出售AGI”。

后来随着微软入场，这项计划最终被搁置。

事情虽然翻篇了，但Dario对管理层的怀疑才刚刚开始。

名单、合同和侃爷，梁子越结越大

接下来几年，双方的摩擦开始疯狂叠Buff。

先是一份GPT-3测试名单。

当时OpenAI准备通过API向外部客户开放GPT-3，Dario担心模型被滥用，专门向Altman确认：

到底哪些客户拿到了测试资格？

他最初看到的，是一份经过内部批准的名单，结果后来又发现，公司还有一份更长的版本。

多出来的客户从哪来的？谁批准的？为什么安全团队不知道？

Dario当场警铃大作，怀疑管理层为了推进商业化，绕过了原本的审核流程。

名单的事还没彻底消化，微软的10亿美元投资又来了。

OpenAI章程里原本有一项特殊承诺：

如果另一家机构更接近安全、造福人类的AGI，OpenAI原则上应该停止竞争，转而帮助对方。

Dario担心，接受微软投资以后，这项承诺会被商业合同卡住。

于是他要求在协议中明确写清：

即使未来OpenAI决定加入另一家更接近AGI的机构，微软也不能从中阻拦。

按照Dario的说法，Altman先是答应处理，后来却没把这项要求谈进合同，还让他误以为双方已经沟通过。

Altman则表示，自己不记得这场争议。

总之，合同究竟怎么谈的，如今已经说不清了。

但Dario心里的结论越来越清楚：

他不再相信Altman。

双方甚至还因为侃爷闹过一出。

2020年，Altman想邀请侃爷提前试用GPT-3，负责政策工作的Jack Clark一听，立刻表示反对。

当时侃爷刚发布过一段对着格莱美奖杯小便的视频，整个人的状态也引起不少争议。

Clark认为，把尚在测试阶段的强大模型交给这样一位公众人物，风险实在有点高。

这份邀请最终被拦了下来。

（P.S. 虽然不是Dario亲自出面，但Clark既是他的安全派队友，后来又跟着他一起离职创业，这次反对也足以看出双方当时在产品开放尺度上的分歧）

Altman想让更多人尽快用上模型，Dario阵营则不断追问：

模型可以往外放，但出了问题谁来踩刹车？

Anyway，一份客户名单、一份微软合同，再加上一位差点拿到GPT-3的侃爷。

事情看起来都不算决定性。

但一件件累积起来，Dario对OpenAI管理层的信任，也基本快见底了。

而在OpenAI其他人眼中，Dario同样变得越来越难相处。

双方的矛盾，马上就要从“对事”，升级成“对人”。

最后谈崩的，是安全团队“一票否决权”

随着摩擦越来越多，Dario身边逐渐聚集起一批认同他的研究人员。

这群人私下开会、建Slack群，用自己的一套安全术语讨论公司方向。

在支持者眼中，他们是OpenAI内部最认真对待AI风险的一群人。

但在其他同事眼里，这帮人越来越像一个独立运转的“安全派小圈子”。

Dario的妹妹Daniela Amodei，也站在哥哥这一边。

与一头扎进技术和长篇内部邮件的Dario相比，Daniela更擅长处理人际关系，逐渐成了这个小团体里的“润滑剂”。

不过，她也因为安全问题，多次与Greg Brockman、Mira Murati等管理层发生冲突。

兄妹俩讨论管理问题的方式也很特别：

找毛绒玩具开会。

他们会给家里的毛绒玩具设定不同性格，再通过角色扮演分析问题。

懒猫Jinji负责劝人少开会、早点回家；

粉色小熊Maura是工作狂；

另一只熊Beary Bonds则负责提醒大家保持慷慨和同理心。

画风看着挺可爱，讨论的问题却通常是：

怎样避免强大的AI给人类带来灾难。

但毛绒玩具能缓和兄妹俩的情绪，缓和不了OpenAI内部的关系。

一名前同事回忆，Dario经常把自己的意见与“更安全、更符合道德”绑定在一起。

这么一来，谁反对他，听起来就像谁不在乎AI安全。

管理层因此觉得Dario越来越强势，甚至有借“安全”争夺决策权的嫌疑。

Dario则认为，所谓安全措施只要与商业利益发生冲突，随时可能被管理层推翻。

双方都觉得自己在坚持原则，也都觉得对方别有用心。

到了2019年，Dario已经相当悲观。

他在发给同事的邮件中写道，OpenAI眼下取得的安全进展可能只是暂时的，未来很可能被商业压力覆盖。

他一度考虑跳槽DeepMind。

同事Jared Kaplan却给了一个更直接的建议：

既然去哪里都不放心，为什么不自己开一家？

这句话，算是把创业的窗户纸捅破了。

第二年，一个名为“BATNA”的秘密Slack群悄悄出现。

而Dario也向OpenAI提出了最后一组留任条件。

其中最关键的一条，几乎注定了这场谈判不可能善终，那就是：

由他领导的安全团队，必须拥有叫停新产品发布的权力。

OpenAI没有接受。

谈判就此破裂，于是也就有了开头那场“黑屏式离职”。

本想做50人的安全实验室，结果越做越大

被锁掉电脑几个小时后，7人重新上线，开了第一次创业会议。

GPU、数据、资金、人员，以及公司叫什么，全都要从头解决。

他们最初想用“Sparrow Systems”，名字来自哲学家Nick Bostrom在《超级智能》一书开篇的寓言《麻雀的未完成寓言》（The Unfinished Fable of the Sparrows）——

一群麻雀急着找来强大的猫头鹰帮忙，却没先想好该如何控制它。

但域名已经被注册，最后才定下“Anthropic”。

OpenAI则给了他们几周时间邀请员工加入新公司，窗口期结束后，Anthropic一年内不得再主动挖人。

2021年，Anthropic正式成立。

Anthropic最初的规划相当克制：

团队维持在50人左右，靠极高的“人才密度”，专心研究大模型和AI安全。

当时团队估算，做出AGI大约需要100亿美元。

这个数字放在当年相当惊人，但放到今天，可能已经有点保守了。

2023年夏天，Anthropic大约有160名员工。

办公室里摆着桌游、绿植和纯素三明治，员工还用Liquid Death饮料罐搭了一个“王座”。

有来访者形容，那里既像大学实验室，又像一个资金充足的神秘组织。

短短两年后，一切都变了。

Anthropic员工增加到数千人，搬进更大的总部，高敏感区域需要特殊权限才能进入。

Dario开始乘坐包机、配备保镖，他写的内部文章也被印成小册子在公司流传。

当年那个打算控制在50人的安全实验室，就这样一路融资、扩张，长成了OpenAI最强劲的对手之一。

Anthropic联合创始人Jack Clark把这些新烦恼称为：

成功带来的灾难。

毕竟公司越成功，需要处理的问题就越多。

既担心商业竞争中跑得太慢，又担心自己跑得太快，反而加速了那些一直警惕的AI风险。

这也是如今最微妙的地方：

兜兜转转，曾经因为路线不同而分家的两家公司，反而越来越像彼此。

One More Thing

据知情人士透露，Dario曾在内部消息中把Altman和OpenAI形容为“邪恶”。

2023年OpenAI上演“宫斗大戏”时，Anthropic一名传播高管还专门提醒Dario删除这些激烈发言，免得聊天记录被人翻出来。

OpenAI一边的评价同样不客气。

一些OpenAI人士认为，Amodei兄妹也很渴望权力，只是更擅长用“AI安全”和道德语言包装自己的野心。

双方虽然会在AI安全问题上合作，但几乎没人期待他们真正和好。

这就有点黑色幽默了。

OpenAI和Anthropic都在投入巨额算力，教模型如何诚实、友善、尊重对手。

结果训练模型的人同台见面，连手都不愿意牵。

一水 发自 凹非寺

量子位 | 公众号 QbitAI