20 Kasım 2023 Pazartesi 12:59: Sam Altman'ın OpenAI Yönetim Kurulu tarafından zorla görevden alınmasına ilişkin kesinlikle tuhaf hikaye, hafta sonu boyunca daha da tuhaflaştı. Eğer teknolojiyle ilgilenmiyorsan seni kıskanıyorum. Teknoloji arkadaşlarınız Aktarım'ın 3 sezonunu art arda izlediler ve uçurumun kenarında kaldılar! Neyse, Sam'in cuma günü zorla devrilmesinden bu yana yaşananlar şöyle:
- 17 Kasım Cuma günü geç saatlerde : OpenAI COO/Yönetim Kurulu Başkanı/Kurucu Ortak Greg Brockman, Sam'le dayanışma amacıyla istifa etti . Haberin yayınlanmasından sadece birkaç dakika önce haberdar olduğunu söyledi.
18 Kasım Cumartesi : openAI'de birçok üst düzey yetenek istifa etti. Greg ve Sam'in oldukça popüler liderler olduğu ortaya çıktı. Ardından, birçok OpenAI çalışanı, Sam'in "OpenAI ekibini çok seviyorum" tweetini bir kalp emojisiyle alıntılayarak, Greg ve Sam geri dönmezse herkesin işi bırakacağını halka işaret etmek için koordineli bir çaba gösterdi. Özellikle geçici CEO Mira Murati'nin bu çabanın bir parçası olduğu görüldü.
18 Kasım Cumartesi sonu : Sam, kendisinin (ve Greg'in) potansiyel getirisi konusunda Yönetim Kurulu ile görüşmek üzere OpenAI ofisine geri döndü. Şart, yeni bir yönetim kurulu bulmak ve mevcut yönetim kurulu üyelerinin tamamının istifa etmesiydi. Microsoft CEO'su Satya Nadella, Sam ve yönetim kurulu arasındaki müzakereyi yönetti. Saat 17.00'ye kadar bir son tarih belirlendi ve kaçırıldı.
19 Kasım Pazar
Köstebek Günü: Sam, kendisinin (ve Greg'in) potansiyel getirisi konusunda Yönetim Kurulu ile müzakere yapmak için tekrar ofise döndü. Sam bu seferkinin sonuncusu olacağını söyledi. Başka bir 17:00 son tarihi belirlendi ve kaçırıldı.
20 Kasım Pazartesi: "Sam'i geri getir yoksa istifa ederiz" mektubu sızdırıldı. MT Pazartesi günü saat 10:00 itibariyle, 770'den fazla çalışandan 667'si (ve artmaya devam ediyor) mektuba imza attı. Özellikle, 6 yönetim kurulu üyesinden biri olan ve oyu Sam'in devrilmesinde etkili olan Baş Bilim Adamı olan "Iliya Sutskever" kelimesiyle kesildi.
19 Kasım Pazar Gece Yarısı / 20 Kasım Pazartesi : Twich'in eski CEO'su Emmett Shear, OpenAI'nin CEO'su olma iş teklifini kabul etti!
20 Kasım Pazartesi : Satya Nadella, Sam ve Greg'in MICROSOFT'A KATILACAĞINI duyurdu. Daha fazla bilgi burada . Tamam
….Ve pazartesiyi henüz yarıladık.
"Sonuç" Düşünceleri, diğer adıyla WTF?
Hikayenin gelişmeye devam edeceğinden eminim, dolayısıyla “sonuç” tırnak içindedir. Ama işte bu kesinlikle çılgın hikaye hakkındaki düşüncelerimden bazıları. Ve bu sefer - siz okuyuculardan - bazılarına cevap vermenize/bazılarına ışık tutmanıza yardımcı olmanızı istiyorum.
- Kâr Amacı Gütmeyen Bir Şirketi kontrol eden Kâr Amacı Gütmeyen Yönetim Kurulu : kusura bakmayın ama bu gereksiz derecede karmaşık ve tuhaf fikri kim ortaya attı? Ve daha da önemlisi neden? Kâr amacı gütmeyen bir kurulun teşviki, kâr amacı güden bir kurulun teşvikiyle büyük ölçüde çelişmektedir . Birincisi kârla hiç ilgilenmiyor, ikincisi ise onun tarafından yönlendiriliyor. OpenAI Kurulu, oyunda gerçek dış görünüme sahip olan hiç kimseden oluşmuyor. Hiçbiri OpenAI hissesine sahip değil. Aslında Quora CEO'su, Poe adı verilen kendi alternatif yapay zeka modeli biçiminde bir çıkar çatışması yaşıyor! OpenAI hisselerinin %49'una sahip olan Microsoft'un Yönetim Kurulu koltuğu yoktur. Haydi bakalım.
- Ilya Sutskever'in U dönüşü tam bir tuhaflık . OpenAI hikayesini gayet iyi takip ediyordum (çılgıncaydı, çılgıncaydı, evrendeki aksaklıktı, vs. ama mantıklıydı... ta ki o özür dileyene kadar). OpenAI'nin 6 Yönetim Kurulu üyesi bulunmaktadır: CEO/kurucu Sam Altman, COO/kurucu ortak Greg Brockman, CSO Ilya Suskever, Quora CEO'su Adam D'Angelo, Teknoloji Girişimcisi Tasha McCauley ve Georgia Teknik Grants Direktörü Helen Toner. CEO'yu devirmek için çoğunluk yani 4 oy olması gerekiyor. Sam ve Greg'in aynı tarafta olduğunu biliyoruz. Bu durumda Ilya Suskever, Sam'in görevden alınmasında etkili oy olarak kalıyor. Hatta bazıları buna yapay zeka hızlandırma uzmanı ile yapay zeka güvenlik uzmanı arasında bir darbe diyor. ŞİMDİ İLYA ÖZÜR Mİ DİLİYOR? Ve yönetim kuruluna istifa edeceğini mi söylemek? Eğer "kasıtlı inceleme" sürecinde Sam'in Yönetim Kuruluna karşı "samimi" olmadığını gösteren ve yönetim kurulunun Sam'in şirketi yönetme becerisine "güven" eksikliği gösterdiğini gösteren çok acımasız bir şey gördüyse... NEDİR? Peki neden şimdi önemli değil? falan filan?
- Ilya'nın motivasyonu ya da bizim bilmediğimiz ne bildiği hakkında pek bir şey bilmiyorum ama Lya Sutskever'in bu yılın Mart ayında HackerNoon'la yaptığı bir röportajda söyledikleri göz önüne alındığında, verdiği oyunun insan geri bildirimlerinden pekiştirici öğrenmeyle düzeltilmiş bir halüsinasyon olabileceğini düşünüyorum. :
“Biz buna İnsan Geri Bildiriminden Güçlendirilmiş Öğrenme diyoruz. Eğitim öncesi süreçte dünyaya dair her şeyi öğrenmek istediğinizi söyleyebiliriz. İnsan geri bildirimlerinden pekiştirmeli öğrenmeyle çıktıları önemsiyoruz. Çıktının uygunsuz olduğu durumlarda bunu bir daha yapma diyoruz. Çıktının anlamlı olmadığı her durumda, bunu bir daha yapmayın. Ve iyi çıktılar üretmeyi hızla öğrenir. Ancak bu, çıktıların düzeyidir ve dil modeli ön eğitim sürecinde durum böyle değildir. Şimdi halüsinasyonlar noktasında, zaman zaman bir şeyler uydurma eğilimi var ve bu da bunların kullanışlılığını büyük ölçüde sınırlayan bir şey. Ancak oldukça umutluyum ki, insan geri bildirim adımından sonraki bu pekiştirmeli öğrenmeyi geliştirerek, ona halüsinasyon görmemeyi öğretebilir. Şimdi diyebilirsiniz ki gerçekten öğrenecek mi? Cevabım şu; hadi öğrenelim. ”
Sonuçta kazanan Microsoft mu olacak? Microsoft, Cuma günü piyasa kapanmadan önce çıkan Sam'in devrilmesi haberinden sonra %1 oranında değer kaybetti. CEO olarak Satya Nadella, hissedarlarına (idk, OpenAI yönetim kurulunun aksine) karşı yerine getirmesi gereken bir vekalet görevine sahip, ideologlar ve OpenAI operatörleri arasındaki tüm bu ileri geri müzakerelerde etkili oldu. Şu anda söyleyebileceğim tek şey, Microsoft'un kelimenin tam anlamıyla OpenAI'yi (Sam, Greg ve yakın zamanda 80 Milyar Dolar değerinde olan bir şirketin %80'ini) 10 Milyar Dolar karşılığında satın almış gibi göründüğü kesin. Ne güzel bir hareket.
OpenAI'ye bundan sonra ne olacak? Kimse bilmiyor. Gerçekten. Hepsi kamuoyuna son derece karışık sinyaller gönderiyor. Bir nefeste yönetim kurulunu istifa edip Sam'le birlikte ayrılmakla tehdit ediyor ve aynı nefeste her zamankinden daha "birlik" olduklarını söylüyor. Görünüşe göre Verge'e göre Sam & Greg ve "meslektaşların" (okundu: OpenAI'nin neredeyse tamamı) işe alınması henüz nihai bile değil. Ve yeni CEO Emmett Shear evrak toplamakta ve çalışanların onun emirlerine uymasını sağlamakta zorlanıyor.
Yapay zekanın kaderini birkaç kişiye bırakma tehlikesi : Yapay zeka bu on yılın ve gelecek on yılların en önemli teknolojisi olabilir. Ancak geçtiğimiz hafta sonu ortaya çıkan hikaye, kontrol edilme tehlikesi altındaki insanların ne kadar inanılmaz derecede kusurlu olduğunu bize gösteriyor. Bilgili teknoloji + kusurlu insanlar = oldukça felaket bir kombinasyon, imho. Geleceğe dair umutlu veya umutsuz hissedip hissetmemeniz, ilerlemek büyük ölçüde yatkınlığınıza ve başlangıçta mevcut mizacınıza bağlıdır. Eğer bilim adamı İlya bir U dönüşü yapabiliyorsa, sanırım insanlığın geleceği de bunu yapabilir.
Not: Bu hikayenin son derece twitter ekran görüntüsü ağırlıklı olduğu için çok üzgünüm. Her şeye rağmen teknoloji dünyasının önde gelenlerinin hala güveler gibi bu platforma tutunması benim suçum değil. Bu yüzden size bunun yerine thread'den gelen bu ekran görüntüsünü bırakacağım. Bir sonrakine kadar!
