OpenAI에서 Sam Altman의 실패한 이사회 쿠데타와 AI 운명을 소수의 손에 맡길 위험

500명 이상의 HackerNoon 인간이 어제 설문조사에서 (현재는 존재하지 않는) OpenAI 보드의 쿠데타 시도이자 대실패로만 설명될 수 있는 예측할 수 없는 롤러코스터 타기에서 어떤 일이 일어날 것인지 묻는 투표에 참여했으며, Sam Altman이 궁극적으로 선택할 옵션을 압도적으로 선택했습니다. OpenAI의 CEO로 복귀합니다.

그리고 HackerNoon 독자들의 말이 옳습니다! OpenAI 직원들은 'Sam을 다시 데려오지 않으면 우리는 그만 둘 것'이고 Microsoft CEO Satya Nadella를 중심으로 한 OpenAI 투자자들과 Silicon Valley의 거물급자들(I 이 기사의 뒷부분에서 이에 대해 논의하겠습니다) 마침내 "해피 엔딩"에 이르렀습니다. 쿠데타는 실패했습니다. 이제 Sam & Greg는 OpenAI의 95%(블룸버그에 따르면 직원 770명 중 778명 이상이 서한에 서명함)와 새로운 이사회, 그리고 그 어느 때보다 더 많은 명성과 권력을 통해 성공적인 복귀를 환영하게 되었습니다!

스모킹 건은 아직 나오지 않았습니다(그리고 그것이 명확해질지는 불분명합니다). 저는 여전히 더 많은 연구 논문, 소송, 심지어 정책 변경 사항이 다음 달 또는 몇 년 안에 나올 것이라고 확신합니다. 무슨 일이 일어났는지 밝히기 위해. 그리고 이것이 OpenAI의 혼란이 아직 끝나지 않았습니다.

하지만 먼저 간단히 요약하자면

이 드라마를 100% 따라잡으려면 Sam Altman의 해고에 대한 세부 사항을 발표하고 추측한 금요일의 내 이야기 와 주말에 일어난 일에 대한 연대순 타임라인을 제시한 월요일의 이야기를 읽어야 합니다. . 우리가 떠났을 때 Sam과 Greg는 여전히 회사를 떠나 또 다른 기업의 표준이 되기 위해 Microsoft에 합류하는 중이었습니다(웃음). 새로운 임시 CEO가 발표되었습니다(이미 임시 CEO인 Mira Murati를 대체하여 Sam의 충성주의자로 밝혀짐): Twitch의 전 CEO로 가장 잘 알려진 Emmett Shear. 응, 트위치. 게임 스트리밍 플랫폼. AI와 관련된 것은 없습니다.

Microsoft CEO인 Satya Nadella는 모든 공개 출연 과 발표 에서 매우 긍정적이고 낙관적이면서도 기업 지배구조 수준에서 변화가 절대적으로 이루어져야 하며 49%의 이해관계자인 Microsoft에게 더 이상 놀라운 일이 있어서는 안 된다는 점을 강력하게 지적했습니다. OpenAI의 가장 중요한 기관 파트너입니다. 나는 그것을 다음과 같이 읽었습니다. 이사회는 해고되어야 하며 Microsoft가 새 이사회로 인해 다시는 이런 상황에 처할 수 없습니다.

그리고 11월 21일 화요일 자정쯤/11월 22일 수요일 이른 아침 - Open AI는 Sam & Co 및 대부분의 실리콘 밸리 낙관론자들이 기다려온 소식을 발표했습니다 .

SAM 👏이 👏 돌아왔습니다 👏

같은 발표에서 OpenAI의 새로운 이사회는 Bret Taylor(의장), Adam D'eangelo 및 Larry Summer로 구성될 것이라고 언급되었습니다. 특히 Sam Altman, Ilya Sutskever, Tasha McCauley 및 Helen Toner는 언급되지 않습니다.

비영리 /영리 불일치: OpenAI 존재의 파멸

쿠데타가 발생하도록 허용된 이유에 대한 가장 그럴듯한 이론은 다음과 같습니다. 영리 LLC를 통제하는 비영리 단체인 OpenAI(현재는 존재하지 않음) 이사회는 어떠한 인센티브도 갖지 않아야 합니다. Microsoft로부터 130억 달러를 조달하고 투자자를 위해 돈을 벌어야 하는 수탁의무가 있었던 Chatgpt를 만든 OpenAI의 핵심인 이익 극대화입니다. Altman 자신을 포함하여 이사회의 모든 투표 구성원은 OpenAI의 지분을 보유하지 않습니다. 회사 내규에 명시된 바와 같이 그들의 임무는 "일반적으로 인간보다 똑똑한 AI 시스템인 인공 일반 지능이 모든 인류에게 이익이 되도록 보장하는 것"입니다. 즉, 영리 LLC를 감독하는 비영리 이사회는 투자자, Microsoft 컴퓨팅 능력(AGI를 출시하는 데 필요한 종류의 연구를 수행하는 데 절대적으로 필요함) 또는 사실을 위해 돈을 돌려받는 데 전혀 관심이 없습니다. OpenAI는 ChatGPT 출시 이후 수십 년 동안 사실상의 시대정신 기술 회사가 되었습니다. 관심이 있고 법적으로 감독해야 하는 것은 인공 일반 지능(AGI)의 안전한 출시뿐이었습니다. 이론상으로는 더 이상 돈을 벌지 못하고 축소되어 소규모 엘리트 연구 그룹으로 돌아가는 것은 아주 행복한 일이었습니다.

제가 가장 그럴듯하다고 생각한 이 이론은 ( 지난 이야기 에서 언급했듯이) OpenAI 공동 창업자이자 수석 과학자인 저 Lya Sutskever가 처음에 Sam을 축출한 원래 이사회 세력의 일부였다는 사실 때문에 가장 그럴듯하다고 생각했습니다. (그는 나중에 자신의 결정을 후회했고 모두를 놀라게 했다고 해도 과언이 아닐 정도로 방향을 틀었습니다.) 그는 뛰어난 두뇌를 갖고 있으며 작전의 두뇌로 널리 알려져 있습니다. 실제로 그는 Elon Musk 자신(Google Deepmind 출신)에 의해 OpenAI에 관심을 갖게 되었으며, 이는 Elon Musk와 Google CEO Larry Page의 오랜 우정에 명백한 균열을 일으켰습니다. 당시(2015/2016년)의 골절은 AI 안전에 관한 것이었습니다. Ilya는 AI 안전에 관심이 있었고 Elon도 그랬지만 Larry는 그렇지 않았습니다. 그래서 Ilya는 OpenAI 팀이 되었습니다.

이것이 AI 안전에 대한 근본적인 불일치/오조라고 생각한 또 다른 이유는 Sam을 축출하기로 투표한 이사회 구성원 3명 중 한 명인 Helen Toner가 최근에 다음과 같은 연구 논문을 썼다는 사실입니다(뉴욕 타임즈에서 보고한 대로). OpenAI의 직접적인 경쟁자인 Anthropic을 선호했으며 OpenAI의 AGI 출시 접근 방식을 비판했습니다. Anthropic은 바로 이러한 AI 안전 긴장 때문에 만들어졌습니다. 설립자는 OpenAI의 전 연구 부사장인 Dario Amodei와 OpenAI의 안전 및 정책 담당 부사장이었던 그의 여동생 Daniela Amodei입니다. 다른 여러 OpenAI 연구 동문도 Anthropic의 창립 팀에 있었습니다. 더 이상한 점은 Anthropic CEO Dario가 OpenAI와의 합병 가능성을 고려하여 구 이사회에 의해 스카우트되어(웃음, 애초에 이 회사가 떠난 회사) 거절했다고 보고되었습니다.

그리고 마지막으로, Sam과 Greg의 성공적인 복귀 소식이 전해지기 불과 몇 시간 전, OpenAI의 최초 창립자이자 투자자인 Elon Musk는 자신이 소유한 플랫폼 X에서 OpenAI의 "걱정스러운" 전 직원이 보낸 편지를 공유했습니다. , 무엇보다도 Sam Altman과 동료의 불안한 행동 패턴은 안전 연구원의 말을 듣지 않습니다. 여기에서 전체 편지를 확인하세요. 즉, 지난 몇 년간 샘리/AI 안전에 큰 이견을 보이던 사람들이 대부분 떠났다는 것이다. OpenAI에 남은 것은 대부분 Sam의 충성파들입니다.

OpenAI의 새로운 이사회를 만나보세요

Sam Altman을 CEO로 복귀시키기 위한 협상에서 (구) 이사회는 이 3명의 초기 개인을 이사회에 포함시키는 데 동의했습니다. 그럼, 그들을 만나보자.

브렛 테일러

브렛 테일러(Bret Taylor)는 실리콘 밸리에서 가장 인맥이 풍부하고 존경받는 기술 전문가 중 한 명입니다. 그는 클라우드 기반 소프트웨어 서비스 분야의 선두 기업인 세일즈포스(Salesforce)의 전 CEO로 가장 잘 알려져 있습니다. 그러나 더욱 주목할 만한 점은 Taylor가 (전)Twitter 이사회 의장으로서 중추적인 역할을 했다는 것입니다. 그곳에서 그는 억만장자가 파산한 후 Elon Musk의 목을 꺾어 Twitter를 인수하는 데 중요한 역할을 했습니다. 440억 달러 규모의 거래 중 ( 여기 , 여기 , 여기 참조 )

래리 서머

로렌스 "래리" 서머스(Lawrence "Larry" Summers)는 미국 경제학자이자 전 개발경제 부총재, 세계은행 수석경제학자, 전 미국 재무장관이다. 그는 하버드 대학교의 27대 총장으로 가장 잘 알려져 있습니다. Harvard 재직 기간 동안 Summers는 과학 분야의 여성에 대한 논평으로 논란을 불러일으켰으며, 남성과 여성의 적성의 본질적인 차이가 과학 및 공학 분야에서 여성이 과소대표되는 이유가 될 수 있다고 제안했습니다. 이 발언은 광범위한 비판을 불러일으켰고 그가 결국 하버드 총장직을 사임하는 데 중요한 역할을 했습니다. 그림을 이동.

아담 디안젤로

유명한 질문과 답변 웹사이트인 Quora의 CEO인 Adam D'Angelo입니다. Quora 이전에 그는 Facebook의 최고 기술 책임자였으며 Mark Zuckerberg 외에 많은 공동 창립자 중 한 명이었을 수도 있습니다. 가장 주목할 만한 점은 그가 이 새 이사회에서 여전히 활동할 OpenAI 이사회의 유일한 상임 구성원이라는 것입니다. 네, 애초에 Sam을 축출한 이사회죠.

흠 뛰어난 비즈니스 거래 중재자( Elon이 트위터 구매에 대한 법적 구속력이 있는 계약을 준수하도록 할 수 있는 유일한 성인 ), 논란의 여지가 있지만 영향력 있는 경제학자 (여성 지성에 대한 래리의 성차별적 발언은 축출된 이사회에 좋은 징조가 되지 않았을 것입니다) 멤버들 모두 여성입니다!), 인터뷰를 거의 하지 않는 수수께끼의 CEO(아담이 왜 샘을 축출했는지는 오늘날까지도 아무도 모릅니다)… 이들은 현재 우리가 가장 영향력 있는 인물의 운명을 통제하고 있는 사람들입니다. 우리 시대의 기술.

결론적 생각(지금은 이 이야기가 마지막이기를 바랍니다)

AI는 이번 10년과 향후 수십 년 동안 가장 중요한 기술이 될 수 있습니다. 그러나 지난 주말에 펼쳐진 이야기는 그것이 통제되고 있는 위험에 처해 있는 사람들이 얼마나 믿을 수 없을 만큼 결함이 있는지를 우리에게 보여줍니다. 능숙한 기술 + 결함이 있는 인간 = 꽤 비참한 콤보입니다. 지금은 없어진 OpenAi 보드가 Sam을 해고하기로 결정했을 때 아무리 결함이 있고, 비합리적이며, 제정신이 아닌 것처럼 보이더라도, 첫 번째 결정을 촉발하는 사건인 방 안에는 여전히 크고, 거대하고, 거대한 코끼리가 있습니다. 장소.

샘은 귀국 후 철저한 조사에 기본적으로 동의한 것으로 전해졌다. 그리고 그때까지 나는 슈퍼 스마트 로봇(의역)으로부터 인류를 구하려는 OpenAI의 숭고한 사명을 동시에 유지하는 동시에 많은 돈을 벌 수 있는 이 새로운 이사회의 능력에 대해 기껏해야 회의적일 것입니다. 자본주의, 효과적인 이타주의, 그리고 그 문제에 대한 인간과 마찬가지로 역설처럼 보입니다.