纽约客深度调查：萨姆·奥特曼是否值得托付未来？

作者：Ronan Farrow，Andrew Marantz；来源：《纽约客》杂志；编译：Shaw 金色财经

2023年秋，OpenAI首席科学家伊利亚·苏茨克维向该机构董事会的另外三名成员发送了机密备忘录。此前数周，他们一直在秘密讨论OpenAI首席执行官萨姆·奥特曼及其副手格雷格·布罗克曼是否适合执掌公司。苏茨克维曾与二人皆是好友。2019年，他还在OpenAI办公室为布罗克曼主持了婚礼，仪式上的戒童甚至是一只机械手掌。但当他愈发确信公司正逼近其长期目标——打造出认知能力可匹敌乃至超越人类的人工智能时，对奥特曼的疑虑也日益加深。苏茨克维当时对另一位董事坦言：“我认为萨姆不该是那个手握决策大权的人。”

应其他董事的要求，苏茨克维与立场相近的同事一同整理了约七十页的Slack聊天记录、人力资源文件及相关说明材料。其中包含用手机拍摄的图片，显然是为了避免在公司设备上留下痕迹。他将最终定稿的备忘录以阅后即焚消息的形式发给其他董事，确保内容不会外泄。“他当时极度恐惧，”一名收到备忘录的董事回忆道。

我们查阅过这些此前从未完整公开的文件，其中指控奥特曼向高管与董事会成员歪曲事实，并在内部安全规程上刻意欺瞒。其中一份针对奥特曼的备忘录，开篇便是一组标题为“萨姆一贯表现出以下行为模式……”的清单，第一条便是：撒谎。

许多科技公司只会空泛宣称要改善世界，实则一心追求利润最大化。但OpenAI的创立初衷本是与众不同。包括奥特曼、苏茨克维、布罗克曼与埃隆·马斯克在内的创始团队认为，人工智能可能是人类历史上最强大、也最具潜在危险的发明；考虑到其存在性风险，或许需要一套特殊的公司治理结构。公司最初以非营利机构形式成立，董事会有义务将人类安全置于公司业绩乃至生存之上。而首席执行官必须具备极高的诚信操守。

在苏茨克维看来，“任何致力于研发这种足以改变文明形态技术的人，都肩负着沉重使命与前所未有的责任。”但“最终坐上这类位置的，往往是一类特定的人——热衷权力者、政客、享受掌控感的人。”他在一份备忘录中担忧，将这项技术托付给一个“只会说别人爱听的话”的人风险巨大。OpenAI董事会共有六名成员，若首席执行官不可靠，董事会有权将其罢免。

人工智能政策专家Helen Toner、企业家Tasha McCauley等董事收到备忘录后，更加印证了自己早已形成的判断：奥特曼的职位关乎人类未来，却根本不值得信任。

当时奥特曼正在拉斯维加斯观看一级方程式赛车比赛，苏茨克维邀请他参加一场董事会视频会议，随后宣读了一份简短声明，宣布他不再是OpenAI的员工。

董事会根据法律顾问的建议发布了一则公开通告，仅表示解除奥特曼职务的原因是他“在沟通中未能始终保持坦诚”。这一消息让OpenAI的众多投资方与高管大为震惊。向OpenAI注资约130亿美元的微软，直到事发前一刻才得知罢免奥特曼的计划。

微软首席执行官Satya Nadella后来说道：“我当时极为震惊，完全没人能给我任何解释。”他与领英联合创始人里德·霍夫曼取得了联系——霍夫曼既是OpenAI的投资人，也是微软董事会成员，他随即四处致电核实奥特曼是否存在明确的不当行为。“我完全搞不懂到底发生了什么，”霍夫曼向我们表示，“我们排查了是否存在挪用公款、性骚扰这类问题，结果什么都没发现。”

其他商业伙伴也同样猝不及防。奥特曼打电话给投资人罗恩·康威，告知自己被解雇时，康威正与众议院前议长南希·佩洛西共进午餐，他直接把手机举到了佩洛西面前。“你最好赶紧脱身。”她对康威说。当时OpenAI即将完成来自风投公司Thrive的一笔巨额融资，该公司由乔希·库什纳创立——他是贾里德·库什纳的弟弟，与奥特曼相识多年。这笔交易对OpenAI的估值高达860亿美元，还能让大批员工套现价值数百万美元的股权。库什纳刚结束与音乐制作人里克·鲁宾的会议，就发现了奥特曼的未接来电。“我们当即就进入了开战状态。”库什纳后来说。

奥特曼被解雇当天，便飞回了他位于旧金山、价值2700万美元的豪宅。这座宅邸坐拥海湾全景，还曾配有一座悬挑式无边泳池。他在那里搭建起了自己口中的“流亡政府”。康威、爱彼迎联合创始人布莱恩·切斯基，以及以作风强硬著称的危机公关主管克里斯·莱汉纷纷加入，每天通过视频和电话与他商议数小时。奥特曼的部分高管团队成员直接在他家走廊里安营扎寨，律师团队则在他卧室旁的家庭办公室办公。失眠时，奥特曼会穿着睡衣在他们身边来回踱步。我们近期与奥特曼交谈时，他将被解雇后的这段日子形容为“一场诡异的神游状态”。

在董事会保持沉默的情况下，奥特曼的顾问团队开始公开造势，推动他重返公司。莱汉坚称，此次解雇是一群激进的“有效利他主义者”策划的政变——这一群体信奉以最大化人类福祉为核心的理念，逐渐将人工智能视为人类生存的威胁。（霍夫曼也曾对纳德拉表示，这次解雇或许源于“有效利他主义者的疯狂举动”。）莱汉有一句援引自迈克·泰森的名言，据报道是：“人人都有计划，直到脸上挨上一拳。”他力劝奥特曼在社交媒体上发起猛烈攻势。切斯基则与科技记者卡拉·斯维舍保持联系，不断传递对董事会的批评声音。

奥特曼每天傍晚六点都会中断“作战室”的议程，调一轮内格罗尼酒。“你们得冷静下来。”他记得自己当时说，“该发生的总会发生。”但他补充道，通话记录显示他每天通话时长超过12小时。据一位知情人士透露，奥特曼曾向当时担任临时CEO的米拉·穆拉蒂放话——穆拉蒂此前曾向苏茨克维提供备忘录材料——称自己的盟友正在“全力以赴”，并“搜集黑料”，准备毁掉她以及其他反对自己的人的声誉。（奥特曼表示不记得有过这番对话。）

解雇消息传出几小时内，Thrive便暂停了原定投资，并表示只有奥特曼回归，交易才会完成，员工也才能拿到套现款。这一时期的短信记录显示，奥特曼与纳德拉紧密协调。（两人在草拟一份声明时，奥特曼提议：“萨提亚和我的首要任务仍是挽救OpenAI。”纳德拉则修改为：“确保OpenAI持续蓬勃发展。”）微软很快宣布，将为奥特曼及所有愿意离开OpenAI的员工另起炉灶、成立对标项目。公司内部一封要求他复职的公开信开始流传。一些犹豫是否签名的人收到了同事的恳求电话与信息。最终，OpenAI绝大多数员工威胁要随奥特曼一同离职。

董事会被逼入绝境。“按Ctrl+Z撤销，这是一个选择。”托纳说——也就是撤销解雇决定。“另一个选择就是公司分崩离析。”就连穆拉蒂最终也签署了那封公开信。奥特曼的盟友开始争取苏茨克维。布罗克曼的妻子安娜在办公室找到他，恳求他重新考虑。“你是个好人——你能挽回这一切。”她说。苏茨克维后来在法庭证词中解释道：“我觉得，如果我们走上不让萨姆回归的道路，OpenAI就会毁于一旦。”一天夜里，奥特曼服用安眠药后入睡，却被丈夫、澳大利亚程序员奥利弗·马尔赫林叫醒，对方告诉他苏茨克维态度松动，有人希望奥特曼与董事会对话。“我在安眠药带来的疯狂昏沉中醒来，完全晕头转向。”奥特曼告诉我们，“我当时就觉得，我现在根本没法跟董事会谈。”

在一系列愈发紧张的通话中，奥特曼要求推动解雇他的董事辞职。“我还要在这种漫天猜疑的氛围里收拾他们留下的烂摊子？”奥特曼回忆自己最初对复职的想法，“我当时只想说，绝对不可能。”最终，苏茨克维、托纳与麦考利失去了董事席位。Quora创始人亚当·安吉洛是唯一留任的原董事。作为离职条件，离任董事要求对针对奥特曼的指控展开调查，包括他挑拨高管内斗、隐瞒财务关联等。他们还推动成立新董事会，以独立监督外部调查。但两名新任董事——前哈佛校长劳伦斯·萨默斯与前Facebook首席技术官布雷特·泰勒——都是在与奥特曼密切商议后选定的。奥特曼给纳德拉发消息：“你觉得这样行吗？董事会由布雷特、拉里·萨默斯、亚当组成，我担任CEO，由布雷特负责调查。”（麦考利后来在证词中表示，她此前就担心泰勒对奥特曼过于顺从。）

被解雇不到五天，奥特曼便官复原职。如今员工们将这段插曲称作“小波动”，典故来自漫威电影中角色短暂消失、再归来时世界已天翻地覆的情节。但关于奥特曼是否值得信任的争论，早已超出OpenAI董事会的范畴。推动罢免他的同事指责其欺骗成性，这对任何高管都无法容忍，对掌握如此颠覆性技术的领导者而言更是危险。“我们需要配得上其所握权力的机构。”穆拉蒂告诉我们，“董事会征求意见，我如实分享了所见所闻。我所说的一切都真实无误，我对此负责到底。”

而奥特曼的盟友则长期对这些指控不屑一顾。解雇风波后，康威给切斯基和莱汉发短信，要求发动公关攻势。“这关系到萨姆的名誉。”他写道。他对《华盛顿邮报》表示，奥特曼遭到了“失控董事会的不公对待”。

此后OpenAI跻身全球最具价值公司之列。据报道，公司正筹备首次公开募股，潜在估值可达万亿美元。奥特曼正推动规模惊人的人工智能基础设施建设，其中一部分布局于国外威权国家。OpenAI接连拿下大额政府合同，为移民执法、国内监控与战区自主武器制定人工智能应用标准。

奥特曼在2024年一篇博客文章中描绘了一幅宏大愿景，以此推动OpenAI扩张：“惊人的成就——修复气候、建立太空殖民地、揭开物理学全部奥秘——终将变得稀松平常。”这番说辞支撑着这家初创企业创下史上最快的烧钱速度，其合作伙伴也背负着巨额债务。美国经济正越来越依赖少数高杠杆的人工智能公司，而包括奥特曼在内的不少专家多次警告，该行业已处于泡沫之中。“有人会亏掉天文数字般的钱。”他去年对记者表示。一旦泡沫破裂，可能引发经济灾难。如果他最乐观的预测成真，他或将成为地球上最富有、最有权势的人之一。

在奥特曼被解雇后的一次激烈通话中，董事会逼他承认自己存在习惯性欺骗行为。据通话在场人士回忆，他反复说道：“这实在太离谱了。”“我改不了自己的性格。”奥特曼表示不记得这段对话。“我可能想说的是类似‘我确实想成为凝聚人心的力量’。”他告诉我们，并补充说正是这一特质让他得以领导一家取得巨大成功的公司。他将批评归因于自己职业生涯早期“过于回避冲突”的倾向。但一名董事对此有不同解读：“他的意思是‘我就是爱撒谎，而且我不会改’。”

推动解雇奥特曼的同事，究竟是出于危言耸听与个人恩怨，还是他们判断他不可信任本就正确？

今年冬天的一个早晨，我们在旧金山OpenAI总部见到了奥特曼，这是为本文与他进行的十多次对话之一。公司近期刚搬进两栋11层的玻璃大楼，其中一栋此前由科技巨头优步使用。优步联合创始人兼CEO特拉维斯·卡兰尼克曾一度被视为势不可挡的天才，直到2017年因投资人对其道德操守的担忧被迫辞职。（卡兰尼克如今运营一家机器人初创公司，他最近称，闲暇时会用OpenAI的ChatGPT“探索量子物理的前沿未知”。）

一名员工带我们参观了办公室。在一个摆满公共长桌的开阔空间里，挂着一幅计算机科学家艾伦·图灵的动态数字画像；我们走过时，画中眼睛会随之转动。这件作品暗指1950年提出的图灵测试，即机器能否可信地模仿人类行为。（2025年一项研究显示，ChatGPT通过图灵测试的可靠性甚至超过真人。）通常人们可以与这幅画像互动，但工作人员告诉我们，声音功能已被关闭，因为它总在偷听员工对话并插嘴插话。办公室其他地方的铭牌、宣传册与周边产品上都印着“感受AGI”的字样。这句话最初与苏茨克维有关，他曾用它提醒同事警惕通用人工智能的风险——即机器达到人类认知水平的临界点。而在“小波动”之后，它变成了一句欢呼超级丰饶未来的口号。

我们在八楼一间普通的会议室见到了奥特曼。“以前别人跟我说决策疲劳，我根本不懂。”奥特曼说，“现在我每天都穿灰色毛衣和牛仔裤，就连从衣柜里挑哪件灰色毛衣——我都在想，要是不用想这些就好了。”奥特曼长相显年轻，身材瘦削，蓝色双眼间距较宽，头发凌乱；但他如今已40岁，与马尔赫林通过代孕拥有一个一岁的儿子。“我敢肯定，美国总统这份工作压力要大得多，但在我能胜任的所有工作里，这是我能想象到压力最大的一份。”他一边说，一边轮流与我们两人对视。“我跟朋友是这么解释的：‘在推出ChatGPT之前，这是世界上最有意思的工作。’我们当时做出了大量重大科学发现——我觉得那是几十年来最重要的科学突破之一。”他垂下目光，“但自从ChatGPT发布后，决策就变得异常艰难。”

奥特曼在密苏里州克莱顿长大，那是圣路易斯的一个富裕郊区，家中四个孩子里他排行老大。母亲康妮·吉布斯廷是皮肤科医生，父亲杰里·奥特曼曾是房地产经纪人和住房权益活动人士。奥特曼上过改革派犹太会堂和一所私立预科学校，他形容那所学校“不是一个你能坦然公开自己同性恋身份的地方”。不过总体而言，家族所在的富裕郊区圈子相对自由开放。他说，自己十六七岁时，曾在圣路易斯一个以同性恋人群为主的社区深夜外出，遭到残酷的人身攻击与恐同辱骂。奥特曼没有报案，也不愿在记录中透露更多细节，称完整讲述会“让我显得善于操纵或博取同情”。他否认这一经历以及自身性取向对其人格有重要影响，但也表示：“这可能在我心底留下了某种深层心理印记——我以为自己已经释怀，其实并没有——让我不想引发更多冲突。”

2016年，奥特曼的哥哥告诉《纽约客》，奥特曼童年的态度就是：“我必须赢，一切都得我说了算。”他进入斯坦福大学，经常参加校外扑克局。“我觉得从扑克中学到的人生与商业道理，比大学课程还多。”他后来说。

所有斯坦福学生都野心勃勃，但其中最有闯劲的一批人往往会辍学。大二暑假，奥特曼前往马萨诸塞州，加入创业孵化器Y Combinator的首批创业者项目。该孵化器由知名软件工程师保罗·格雷厄姆联合创立。每位参与者都带着创业想法加入YC。（奥特曼同期的学员包括Reddit和Twitch的创始人。）奥特曼的项目最终命名为Loopt，是一个早期社交网络，通过翻盖手机定位告知好友位置。这家公司体现了他的进取心，也暴露了他善于将模糊局面往对自己有利方向解读的倾向。联邦法规要求电信运营商可追踪手机位置用于紧急服务；奥特曼与运营商达成协议，将这一功能用于公司业务。

Loopt的大多数员工都喜欢奥特曼，但有人对他夸大其词的习惯印象深刻，即便在小事上也是如此。有人回忆，奥特曼到处吹嘘自己是乒乓球冠军——“比如密苏里州高中乒乓球冠军”——结果却是办公室里打得最差的人之一。（奥特曼称自己可能只是在开玩笑。）正如受投资人委托担任奥特曼“监护人”的资深Loopt员工马克·雅各布斯坦后来为奥特曼传记《乐观主义者》作者基奇·黑吉所述：“‘我觉得我或许能做成这件事’和‘我已经做成了这件事’之间界限模糊，这种倾向最极端时就会酿成Theranos那样的骗局。”

据黑吉记载，多批资深员工因担忧奥特曼的领导能力与不透明作风，两次要求Loopt董事会罢免其CEO职务。但奥特曼也赢得了一批死忠支持者。一名前员工称，有董事回应：“这是萨姆的公司，都回去好好干活。”（一名董事否认罢免奥特曼的尝试是认真的。）Loopt用户增长艰难，2012年被一家金融科技公司收购。据一名知情人士透露，这笔收购很大程度上是为了给奥特曼保全面子。尽管如此，2014年格雷厄姆从YC退休时，仍选定奥特曼接任总裁。“我在我们家厨房跟萨姆说了这事。”格雷厄姆告诉《纽约客》，“他笑了，就像终于成了的样子。我从没见过萨姆如此不加掩饰的笑容。就像你把纸团从房间一头扔进垃圾桶时的那种笑容。”

28岁的奥特曼凭借这一新职位成为硅谷造王者。他的工作是挑选最饥渴、最有潜力的创业者，为他们对接顶尖程序员与投资人，帮助其创业公司成长为定义行业的巨头（同时YC抽取6%到7%的股份）。奥特曼任内推动YC激进扩张，孵化创业公司从几十家增至数百家。但多名硅谷投资人逐渐认为他忠诚度分裂。一名投资人告诉我们，奥特曼“会有选择性地对最优质公司进行个人投资，排挤外部投资人”。（奥特曼否认排挤任何人。）他曾为红杉资本担任“投资侦察员”，该项目会投资早期创业公司并抽取少量利润分成。一名知情人士称，奥特曼对金融服务初创公司Stripe进行天使投资时，坚持要求更高份额，激怒了红杉合伙人。该人士补充道：“这就是‘萨姆优先’的原则。”

据他自己估计，奥特曼投资了约400家公司。（奥特曼否认对Stripe交易的这种描述。2010年前后，他向Stripe初始投资1.5万美元，占股2%。如今该公司估值已超1500亿美元。）

到2018年，多名YC合伙人对奥特曼的行为极为不满，找到格雷厄姆投诉。格雷厄姆与妻子、YC联合创始人杰西卡·利文斯顿显然与奥特曼进行了坦诚对话。此后，格雷厄姆开始对外表示，尽管奥特曼已同意离职，但实际却在拖延。奥特曼对部分YC合伙人称，他将辞去总裁职务，转任董事长。2019年5月，一篇宣布YC新任总裁的博客文章附带说明：“萨姆将转任YC董事长。”数月后，文章修改为“萨姆·奥特曼卸任YC所有正式职务”；再之后，这句话被完全删除。然而，直到2021年，美国证券交易委员会文件仍将奥特曼列为Y Combinator董事长。（奥特曼称他很久之后才知晓此事。）

多年来，奥特曼无论公开场合还是近期证词中都坚称，自己从未被YC解雇，并告诉我们他并未抗拒离职。格雷厄姆曾发推文表示：“我们不是想让他离开，只是希望他在YC和OpenAI之间做选择。”他在一份声明中告诉我们：“我们没有解雇任何人的法定权力，只能施加道德压力。”但私下里，他明确表示奥特曼是因YC合伙人不信任而被赶走的。本文对奥特曼YC时期的记述，基于与多名YC创始人和合伙人的访谈及同期材料，均显示此次离职并非完全自愿。格雷厄姆曾对YC同事表示，在被赶走之前，“萨姆一直在对我们撒谎”。

2015年5月，奥特曼给当时全球富豪榜排名第100位的埃隆·马斯克发去邮件。和许多硅谷知名创业者一样，马斯克对一系列他认为关乎人类生存的紧迫威胁忧心忡忡，尽管在大多数人看来这些都只是牵强假设。“我们必须对人工智能极度谨慎。”他发推文称，“其潜在危险性可能超过核武器。”奥特曼总体上是技术乐观主义者，但他对人工智能的论调很快转向末日警示。公开场合以及与马斯克等人的私人通信中，他警告称，这项技术不应由逐利的巨型企业垄断。“我一直在思考，人类是否有可能停止研发人工智能。”他给马斯克写道，“如果终究无法阻止，那由谷歌之外的玩家率先实现或许会更好。”他沿用核武器的类比，提出“人工智能版曼哈顿计划”。他勾勒出这一机构的核心原则——“安全必须是首要要求”；“显然我们会遵守并积极支持所有监管”——随后他与马斯克敲定了一个名字：OpenAI。

与催生原子弹的政府项目曼哈顿计划不同，OpenAI至少在初期由私人出资。奥特曼预测，超级人工智能——理论上超越通用人工智能、机器能力全面超越人类心智的临界点——最终将创造足够巨大的经济价值，“捕获宇宙未来所有价值的光锥”。但他也警告存在生存风险。某一时刻，其国家安全影响可能极端严峻，以至于美国政府必须接管OpenAI，或许会将其国有化并迁至沙漠中的安全掩体。到2015年底，马斯克被说服。“我们应该宣布启动10亿美元资金承诺。”他写道，“其他人不出的部分我来兜底。”奥特曼将OpenAI置于Y Combinator的非营利部门之下，包装为内部慈善项目。他向OpenAI新员工发放YC股权，并通过YC账户接收捐赠。某一时期，实验室由一支他持有个人股份的YC基金支持。（奥特曼后来说这笔股份微不足道。他告诉我们，给新员工的YC股票属于他个人。）

曼哈顿计划的类比也延伸到员工招募上。与核裂变研究一样，机器学习是一个规模小但影响划时代的科学领域，由一群特立独行的天才主导。马斯克、奥特曼，以及从Stripe加入的布罗克曼坚信，当世仅有少数计算机科学家能实现所需突破。谷歌拥有巨大的资金优势与数年先发优势。“我们在人员和装备上都被碾压，差距大得离谱。”马斯克后来在一封邮件中写道，“但只要我们能长期吸引最顶尖人才，且方向正确，OpenAI就会胜出。”

头号招募目标是苏茨克维，一名专注内向的研究者，常被誉为其同辈中最具天赋的人工智能科学家。1986年出生于苏联的苏茨克维发际线后退，眼神深邃，说话时常停顿、目不转睛地斟酌措辞。另一个目标是达里奥·阿莫迪，一名生物物理学家，精力异常旺盛，总紧张地捻着黑发，回复一行邮件常会写成多段长文。两人在其他机构都有高薪职位，但奥特曼对他们倾注了大量关注。他后来开玩笑说：“我跟踪了伊利亚。”马斯克名气更大，但奥特曼手段更圆滑。他给阿莫迪发邮件，约在一家印度餐厅一对一晚餐。（奥特曼：“该死，我打的优步撞车了！大概晚10分钟。”阿莫迪：“哇，希望你没事。”）和许多人工智能研究者一样，阿莫迪认为，只有证明技术与人类价值观“对齐”——即按照人类意愿行事，不犯致命错误，比如接到净化环境指令后消灭最大污染源人类——才值得研发。奥特曼态度安抚，附和这些安全担忧。

后来加入公司的阿莫迪，多年来一直详细记录奥特曼与布罗克曼的行为，标题为“我与OpenAI的经历”（副标题：“私密：请勿外传”）。硅谷同行间流传着两百多页与阿莫迪相关的文件，包括这些笔记、内部邮件与备忘录，但此前从未公开。在笔记中，阿莫迪写道，奥特曼的目标是打造一家“专注安全的人工智能实验室（或许不会立刻开始，但会尽快推进）”。

2015年12月，OpenAI公开宣布前几小时，奥特曼给马斯克发邮件，称有传言谷歌“明天会给OpenAI所有人开出巨额挽留报价，试图扼杀我们”。马斯克回复：“伊利亚给出确定答复了吗？”奥特曼向他保证苏茨克维立场坚定。谷歌为苏茨克维开出年薪600万美元，OpenAI根本无法匹敌。但奥特曼夸口：“可惜他们没有‘做正确的事’这张牌。”马斯克为OpenAI提供了位于旧金山米申区一家旧行李箱工厂的办公场地。苏茨克维告诉我们，公司对员工的宣传是：“你们将拯救世界。”

OpenAI创始团队相信，一切顺利的话，人工智能将开启后稀缺乌托邦时代，自动化繁重劳动、治愈癌症，让人们解放出来享受休闲与富足。但一旦技术失控或落入坏人之手，毁灭将是彻底的。中国可能用它研发新型生物武器或先进无人机舰队；人工智能模型可能摆脱监管者控制，在秘密服务器自我复制，无法被关停；极端情况下，它可能控制电网、股市或核武库。至少可以说，并非所有人都相信这一点，但奥特曼一再确认自己深信不疑。他2015年在博客中写道，超人类机器智能“不必是科幻作品里那种纯粹邪恶的版本，也能灭绝人类。更可能的场景是，它根本不在乎人类，但为了完成某个其他目标……将我们抹去”。OpenAI创始人誓言不将速度置于安全之上，公司章程将造福人类定为法定义务。如果人工智能将成为史上最强大技术，那么单独掌控它的人将变得无比强大——创始团队将这种scenario称为“AGI独裁”。

奥特曼告诉早期员工，OpenAI将保持纯粹非营利，程序员们为此大幅降薪入职。公司接受慈善拨款，包括当时名为“开放慈善项目”机构的3000万美元资助，该机构是有效利他主义运动的核心平台，资助项目包括向全球贫困人口发放蚊帐。

布罗克曼与苏茨克维负责OpenAI日常运营，马斯克和奥特曼仍忙于其他工作，每周到访约一次。但到2017年9月，马斯克已失去耐心。在讨论是否将OpenAI改组为营利性机构时，他要求获得多数控制权。奥特曼的回应视场合而定。他始终坚持的核心诉求似乎是，如果OpenAI重组由CEO掌控，这一职位必须由他担任。苏茨克维对此感到不安。他代表自己和布罗克曼，给马斯克和奥特曼发了一封长长的恳切邮件，主题为“坦诚的想法”。他写道：“OpenAI的目标是创造美好未来，避免AGI独裁。”他接着对马斯克说：“因此，建立一种可能让你成为独裁者的架构是糟糕的想法。”他向奥特曼表达了类似担忧：“我们不明白CEO头衔为何对你如此重要。你给出的理由一直在变，很难真正理解背后动机。”

“伙计们，我受够了。”马斯克回复，“要么你们自己单干，要么继续以非营利形式运营OpenAI”——否则“我就像个傻瓜，基本上在免费给你们投钱创业”。五个月后，他愤然离职。（2023年，他创立营利性竞争对手xAI。次年，他以欺诈和违背慈善信托为由起诉奥特曼与OpenAI，声称自己被“奥特曼的长期骗局”精心算计——奥特曼利用他对人工智能风险的担忧骗取其资金。该案仍在审理中，OpenAI已强烈抗辩。）

马斯克离开后，阿莫迪等研究员对布罗克曼和苏茨克维的领导感到不满，有人认为布罗克曼行事粗暴，苏茨克维虽有原则但缺乏条理。在升任CEO的过程中，奥特曼似乎对公司不同派系做出了不同承诺。他向部分研究员保证，布罗克曼的管理权限将被削弱。但在他们不知情的情况下，他还与布罗克曼、苏茨克维达成秘密协议：奥特曼获得CEO头衔；作为交换，他承诺若另外两人认为必要，他将辞职。（他否认这一描述，称自己只是应要求才担任CEO。三人都确认协议存在，不过布罗克曼称其是非正式的。“他单方面告诉我们，如果我们两人同时要求，他就下台。”他告诉我们，“我们对此表示反对，但他说这对他很重要。这纯粹是出于公心。”）后来，董事会震惊地发现，CEO实际上设立了自己的影子董事会。

内部记录显示，创始团队早在2017年就对非营利架构私下存疑。当年马斯克试图夺权后