论 OpenAI 失败的 Sam Altman 董事会政变以及将 AI 命运留在少数人手中的危险

昨天，超过 500 名 HackerNoon 人对我们的民意调查进行了投票，询问在不可预测的过山车之旅中会发生什么，这只能被描述为一次史诗般的失败，OpenAI 委员会（现已解散）的未遂政变，压倒性地选择了Sam Altman 最终会选择的选项重返 OpenAI 担任首席执行官。

HackerNoon 的读者是对的！最后也是最后一次谈判是由 OpenAI 员工“让 Sam 回来，否则我们就退出”，以及由 OpenAI 投资者“让 Sam 回来，否则我们就退出”的谈判，主要由微软首席执行官萨蒂亚·纳德拉 (Satya Nadella) 和硅谷重量级人物领导。我们将在本文后面讨论它们）终于迎来了“幸福的结局”。政变失败了。 Sam 和 Greg 凯旋归来，现在将受到 OpenAI 95% 的员工（据彭博社报道，770 名员工中的 778 多名员工签署了这封信）的欢迎、全新的董事会以及比以往更多的名声和权力！

确凿的证据还没有出来（目前还不清楚是否会得到澄清），我仍然半有信心在未来几个月或几年内会出现更多的研究论文、诉讼，甚至政策变化，澄清所发生的事情。 OpenAI 的混乱还没有结束。

但首先，快速回顾一下

要想百分百了解这部戏剧，你应该继续阅读我周五的故事，其中宣布并推测了萨姆·奥尔特曼被解雇的细节，以及周一的故事，其中列出了周末发生的事情的时间线。当我们离开时，Sam 和 Greg 仍在走出大门并加入 Microsoft，成为另一个企业规范（笑）。宣布了一位新的临时首席执行官（取代了已经临时首席执行官的米拉·穆拉蒂（Mira Murati），后者原来是山姆的忠实拥护者）：埃米特·谢尔（Emmett Shear），他因担任 Twitch 前首席执行官而闻名。是的，抽搐。游戏流媒体平台。与人工智能无关。

微软首席执行官萨蒂亚·纳德拉（Satya Nadella）虽然在所有公开露面和公告中都表现得非常积极和乐观，但他强烈表示，绝对需要在公司治理层面做出改变，对于拥有 49% 股东的微软来说，不应再有任何意外，也是OpenAI最重要的机构合作伙伴。我读到的意思是：董事会必须被解雇，微软不可能在新的董事会中再次陷入这种情况。

然后，11 月 21 日星期二午夜左右/11 月 22 日星期三凌晨 - Open AI宣布了Sam & Co 和大多数硅谷乐观主义者一直在等待的消息：

萨姆👏回来了👏

在同一份公告中，提到 OpenAI 新董事会将由：Bret Taylor（主席）、Adam D'eangelo 和 Larry Summer 组成。值得注意的是，它没有提到萨姆·奥尔特曼、伊利亚·苏茨克弗、塔莎·麦考利和海伦·托纳。

非营利性/营利性错位：OpenAI 存在的祸根

我认为关于为什么政变被允许发生的最合理的理论如下：OpenAI 的董事会（现已解散）是一个控制营利性有限责任公司（见图）的非营利组织，应该没有任何动机利润最大化，这是 OpenAI 的主要观点，OpenAI 是 Chatgpt 的制造商，从微软筹集了 130 亿美元，并负有为其投资者赚钱的信托责任。董事会所有有投票权的成员，包括 Altman 本人，均不持有 OpenAI 股份。正如公司章程所述，他们的使命是“确保通用人工智能（通常比人类更聪明的人工智能系统）造福全人类。”换句话说，负责监督营利性有限责任公司的非营利性董事会对为投资者、微软的计算能力（进行 AGI 所需的研究绝对需要）赚钱或为投资者赚钱没有任何兴趣。自 ChatGPT 发布以来，OpenAI 已成为几十年来事实上的时代精神科技公司。它感兴趣的，也是法律要求监督的，就是通用人工智能（AGI）的安全推出。从理论上讲，它非常高兴不再赚更多的钱，缩小规模，回到一个小型的精英研究小组。

我认为这个理论是最合理的，因为（正如我在上一篇文章中提到的）事实上，我的 OpenAI 联合创始人兼首席科学家lya Sutskever是最初驱逐 Sam 的董事会派系的一员。 （他后来后悔了自己的决定，并做出了180度大转弯，可以肯定地说，这绝对让每个人都感到惊讶）他是一个聪明的头脑，并且被广泛认为是该行动的大脑。事实上，Elon Musk 本人（来自 Google Deepmind）向 OpenAI 求爱，根据 Musk 的说法，这导致了 Elon Musk 和 Google 首席执行官 Larry Page 的长期友谊明显破裂。当时（2015/2016 年）的断裂是围绕 AI 安全性展开的。 Ilya 关心人工智能安全，Elon 也关心，而 Larry 则不然。于是，Ilya 加入了 OpenAI 团队。

我认为这是围绕人工智能安全的根本分歧/失调的另一个原因是，投票罢免 Sam 的 3 名董事会成员之一 Helen Toner 最近写了一篇研究论文（据《纽约时报》报道）支持 OpenAI 的直接竞争对手 Anthropic，并对 OpenAI 推出 AGI 的方法持批评态度。请注意，人择的诞生正是因为这种人工智能安全紧张局势。其创始人是 OpenAI 前研究副总裁 Dario Amodei 和他的妹妹 Daniela Amodei（OpenAI 安全与政策副总裁）。其他几位 OpenAI 研究校友也是 Anthropic 的创始团队成员。更奇怪的是，据报道，Anthropic 首席执行官达里奥 (Dario) 因与 OpenAI 的潜在合并而被旧董事会挖走（哈哈，它首先离开的公司），并拒绝了。

最后，就在昨天，就在 Sam 和 Greg 凯旋归来的消息传出前几个小时，OpenAI 的原始创始人兼投资者埃隆·马斯克 (Elon Musk) 在自己的平台 X 上分享了一封来自“关心”OpenAI 前员工的信，内容是关于其中，萨姆·奥尔特曼（Sam Altman）和他的同事的行为模式令人不安，他们不听安全研究人员的意见。请参阅此处的完整信件。换句话说，多年来对Sam re/AI安全有重大分歧的人大部分已经离开了。 OpenAI 剩下的大部分都是 Sam 的忠实拥护者。

认识 OpenAI 的新董事会

在让 Sam Altman 重新担任首席执行官的谈判中，（旧）董事会同意让这 3 名初始人士加入董事会。那么，让我们来认识一下他们吧。

布雷特·泰勒

布雷特·泰勒 (Bret Taylor) 是硅谷人脉最广、最受尊敬的技术专家之一。他最出名的是担任 Salesforce 的前首席执行官，Salesforce 是一家基于云的软件服务领域的领先公司。但更值得注意的是，泰勒作为（前）Twitter 董事会主席发挥了关键作用，在亿万富翁埃隆·马斯克突然退出后，他在（迫使）推特的收购中发挥了重要作用。 440 亿美元交易的一部分（参见此处、 此处和此处）。

拉里·萨默

劳伦斯·“拉里”·萨默斯是美国经济学家、世界银行前发展经济学副行长兼首席经济学家、美国前财政部长。他最为人所知的是担任哈佛大学第 27 任校长。在哈佛任职期间，萨默斯对科学领域女性的评论引发了争议，他认为男性和女性之间能力的内在差异可能是科学和工程领域女性代表性不足的原因。这些言论引发了广泛的批评，并对他最终辞去哈佛校长职务起到了重要作用。去搞清楚。

亚当·德安吉洛

Adam D'Angelo 是流行问答网站 Quora 的首席执行官。在加入 Quora 之前，他是 Facebook 的首席技术官，也可能是除马克·扎克伯格之外的众多联合创始人之一。最值得注意的是，他是 OpenAI 董事会中唯一一位仍将在新董事会任职的常务成员。是的，董事会首先罢免了萨姆。

嗯，一个出色的商业交易撮合者（房间里唯一一个能够让埃隆遵守其具有法律约束力的合同来购买 Twitter 的成年人），一个有影响力但有争议的经济学家（拉里关于女性智力的性别歧视言论对于被罢免的董事会来说不是一个好兆头）成员，都是女性！），以及一位很少接受采访的神秘首席执行官（甚至直到今天，仍然没有人知道为什么亚当（据说）驱逐了萨姆）......这些人是我们目前控制着可以说是最有影响力的命运的人我们这个时代的技术。

结论性想法（希望是最后一次讨论这个传奇，现在）

人工智能可能是本十年以及未来几十年最重要的技术。但上周末发生的故事向我们展示了那些受到控制的人有多么令人难以置信的缺陷。精明的技术+有缺陷的人类=相当灾难性的组合，恕我直言。无论现已解散的 OpenAi 董事会在解雇 Sam 的决定中显得多么有缺陷、不合理、看起来多么疯狂，房间里仍然有一头巨大的大象，这就是触发这一决定的事件。地方。

据悉，萨姆已经基本同意回国后进行彻底调查。在那之前，我对这个新董事会是否有能力同时维护 OpenAI 的崇高使命，即从超级智能机器人（释义）手中拯救人类，同时赚取大量资金，我最多仍持怀疑态度。这似乎是一个悖论，就像资本主义、有效利他主义和人类一样。