Ah AGI, Beni Hissedebiliyor musun?

Yapay genel zeka (AGI) alanındaki bazı önemli araştırmacılarla yakın zamanda yaptığımız bir sohbette, iklim değişikliği söz konusu olduğunda AGI'nin bir yardımcı mı yoksa bir komplikasyon mu olacağını tartışıyorduk. IPCC'nin 1,5C çizgisinin ne kadar sürede aşıldığını bildirdiği konusunda biraz kafa yorduk. Kayıt için, 18 yıl sonra da gelebilir - günümüzün yeni doğan bebeklerinin ebeveynleri küçük çocuklarını üniversiteye göndermeyi bekliyor olabilir.

Sorun şu ki, kataloglanacak çok fazla iklimle ilgili sorun var. Sorun sadece 1,5C'yi geçmekten kaçınamayacağımız gerçeği değil. Aynı zamanda bu böcek popülasyonlarını yok ettik . Bu, kendimiz için kazdığımız kömür madeninde göbeklenen kanarya sürüsünün bir başkası. Yani gerçekten biraz yardıma ihtiyacımız var. Meslektaşlarımın görüşü AGI'nin bu konuda yardımcı olacağı yönündeydi. Benim görüşüm, genel olarak akıllı bir ajanın özerk olacağı yönünde. Özerkliği, onu genel olarak zeki olarak tanıyacağımız en önemli testlerden biri olacaktır. Sonuçta bu kendimize uyguladığımız bir test. Ancak özerk bir temsilcinin bize yardım etmek için motivasyona ihtiyacı olacak.

Emisyon kesintilerine ilişkin vaatler bir tür vekalet ise , kendimize yardımcı olacak motivasyondan yoksun görünüyoruz. YGZ'nin şefkat veya empati gibi herhangi bir şeye sahip olmasına ve hatta insanlığa yardım edecek kadar değer vermesine gelince, size sıradan insanların bu niteliklerinin, var olduklarında, hesaplama kapasitemiz veya zekamızdan değil, duygulardan kaynaklandığını hatırlatırım. Tarihsel olarak en ufak bir şefkat veya empati göstermemiş, toplum ve insanlık tarihi üzerindeki etkileri efsaneler ve kabuslarla dolu çok sayıda son derece zeki insan var. Karındeşen Jack'ten Pol Pot'a kadar örnekler çok sayıda ve dehşet verici.

İnsan duyguları, insan morfolojisinde ve insan biyolojisinde derin köklere sahiptir.

Mevlana'nın Mesnevi'si gibi yüce metinler bile insan şehvetinin dilini insan sevgisinin diline dönüştürür. Birçoğu onu Sevginin dili olarak kabul eder, ancak bu aslında özellikle insanlar için Sevgiye işaret etmenin bir yoludur. İnsanları ve onların Sevgiyle olan ilişkilerini anlamaya yönelik bir araç olması dışında, Alfa Centauran'lar veya evrende gelişen diğer zekalar için yararlı olması pek olası değildir. Kökleri kökten farklı bir morfolojiye dayanan ve neredeyse hiçbir biyolojiye dayanmayan ham hesaplama kapasitesinin, insan deneyimine dair herhangi bir anlayışa veya rezonansa sahip olmasını bekleyemeyiz.

Merhamet – etimolojik olarak: aynı duygu ya da duygu – tarihimizin, hatta çok yakın ve yakın tarihin bile gösterdiği gibi, insanların birbirlerine karşı gelişmesi genellikle zordur.

ABD Kongre Binası'na baskın yapan MAGA cumhuriyetçileri, sakatladıkları veya öldürdükleri subaylara şefkat duyuyor muydu? George Floyd'u öldüren polis memuru ya da olup biteni izleyen polis memurları, karşılarındaki adama merhamet mi gösterdi? Biyolojik zorunluluklarımıza hiç benzemeyen, tamamen farklı bir morfolojiye dayanan bir zeka neden insanlığa şefkat duysun ki?

İnsan duyguları, insan morfolojisinde ve insan biyolojisinde derin köklere sahiptir. Mevlana'nın Mesnevi'si gibi yüce metinler bile insan şehvetinin dilini insan sevgisinin diline dönüştürür.

Bu nedenle, YZG'nin olası sonuçlarına bir örnek olarak yeni bir örümcek türünün (planlama ve uyum sağlama kapasitesine sahip akıllı örümcekler) tanıtılması metaforunu kullanıyorum. Ve bu daha iyi sonuçlardan biri. Çok daha kötü sonuçlar, YGZ'nin askeri kullanımlarının ters gitmesiyle ya da insanların şefkatten yoksun olması ya da düpedüz kötü niyetli olması ve özerk akıllı ajanlara şiddet içeren ve kötü niyetli motivasyonlar ya da eğilimler aşılamasıyla başlar.

Modern insanlar, en basit geri bildirim sistemlerinin davranışını bile anlama konusunda berbattır; bunun iyi bir nedeni var. Bunlar son derece karmaşıktır, özellikle de topolojik geçişliliğe sahip olan çok yaygın olanlar. (Meslekten olmayan biri için bu, girdideki küçük farklılıkların çıktıda keyfi olarak büyük farklılıklara yol açabileceği sistemler anlamına gelir.) Ham tahmin gücü, hatta evrensel hesaplama gücü bile bu özelliğe rakip olamaz. ChatGPT'nin "halüsinasyonlarına" tanık olun. Türlerin uygun olmadıkları ekolojik ortamlara girmesiyle oluşan felaketlerden, ilaçların art arda gelen yan etkilerine ve iklim üzerindeki etkilerimize kadar her şey, karmaşık sistemleri zekamızla kavrama konusundaki beceriksizliğimizin çok büyük kanıtını oluşturuyor. Doğru anladığımızda -ki bu bir tesadüf değildir- bu bizim zekamız dışında başka bir yerden gelir.

Örneğin, başkalarında bilinç ve bilinçli davranış olarak adlandırdığımız deneyimin kökeninin zekadan değil, duygulardan kaynaklandığına dair kanıt oldukça ikna edicidir. Ünlü araştırmacı Mark Solms , kanıtların bir özetini verir. Neokorteksi eksik olan anensefalik çocuklar hâlâ bilinçli olarak tanımlanıyor ve deneyimleniyor. Bu arada beyindeki 2 santimetreküplük küçük bir bölgenin hasar görmesi de evde kimsenin olmaması, bireyin bilinçli olmaması ile %100 ilişkilidir. Beyindeki bu bölge tipik olarak duygusal işlemlemeyle ilişkilidir.

Başkalarında bilinç ve bilinçli davranış olarak adlandırdığımız deneyimin kökeninin zekadan değil duygulardan kaynaklandığına dair kanıt oldukça ikna edicidir.

AGI'nin bize karşı hisler beslemesini bekleyemeyiz

Bu ajanlar insan duygularına benzer şeyler ortaya koymadan, tanınabilir düzeyde insani YGZ'ye (HLAGI) ulaşmayı bekleyemeyiz, ancak bunların kökleri insan morfolojisi ve insan biyolojisine dayanmaktadır. Tamamen farklı bir düzenleme, tamamen farklı bir zekayla sonuçlanacaktır. Ancak kökten farklı bir zeka, topolojik olarak geçişli, diğer bir deyişle kaotik dinamik bir sistemdir. Tıpkı bir niş alana uygun olmayan bir türün çevremiz üzerinde tarihsel olarak tahmin etmekte çok kötü olduğumuz etkileri olacağı gibi. Bu nedenle HLAGI'nin iklim değişikliğine yardımcı olmasını beklemek dehşet verici derecede saflıktır. Zaten çetrefilli bir sorunun komplikasyonu olma olasılığı çok daha yüksektir.

Alternatif dünyaları herhangi bir bütünlük veya gerçeklikle tasavvur etme konusunda esrarengiz bir yeteneğe sahip bir insan varsa, o da Frank Herbert'ti. Size Dune'un, AGI hatasının sona ermesinden sonraki bir dönemde geçtiğini hatırlatırım. Bu muhtemelen fazlasıyla iyimser bir bakış açısı. Fermi paradoksunun, zekanın uroboric eğiliminin kendisini kopyalamaya çalışması ve böylece kendi kendini yok etmesiyle açıklanması daha olasıdır. Robin Hanson'un Grabby Aliens hipotezi açısından, bedenlenmenin rolünü anlamadan zekayı kopyalamaya yönelik bu dürtüden kaçınmak, muhtemelen zekanın hayatta kalmak için atlaması gereken zor adımlardan biridir.

Ana görsel Milad Fakurian ve Unsplash'ın izniyle alınmıştır