Biz Yapay Zekayı Kullanmayı Öğrendikçe, O da Bizi Kullanmayı Öğreniyor

Tarihçi Yuval Noah Harari, BM'nin İyilik İçin Yapay Zeka Küresel Zirvesi'nde "biz yapay zekayı kullanmayı öğrenirken, o bizi kullanmayı öğreniyor" ve onun gelişimini değil, yayılmasını yavaşlatmamız gerektiğini söylüyor.

Perşembe günü Birleşmiş Milletler Uluslararası Telekomünikasyon Birliği'nin (ITU) " Güvenli ve sorumlu yapay zeka için gerekli korkuluklar " konulu İyilik için Yapay Zeka Küresel Zirvesi oturumunda konuşan Harari, yapay zekanın geliştirilmeye devam etmesi gerektiğini ancak yapay zekanın kullanılmaması gerektiğini belirtti. güvenlik kontrolleri ve düzenlemeleri.

“Biz yapay zekayı kullanmayı öğrenirken, o da bizi kullanmayı öğreniyor”

Yuval Noah Harari, İyi Küresel Zirve için Yapay Zeka, 2023

"Biz yapay zekayı kullanmayı öğrenirken, o da bizi kullanmayı öğreniyor" diyen Harari şunları ekledi: "[Yapay zekanın] gelişimini durdurmak çok zor çünkü biz silahlanma yarışı zihniyetine sahibiz. İnsanlar -bazıları- tehlikelerin farkında ama geride kalmak istemiyorlar.

" Ama asıl önemli olan ve bu iyi haber, önemli olan gelişmeyi değil dağıtımı yavaşlatmaktır " diye ekledi.

Tarihçi, yapay zekanın gelişimini laboratuvarda bir virüs bulunmasına benzeterek, onu geliştirmenin sorun olmadığını ancak halka dağıtmanın sorun olmadığını söyledi.

“Sanki laboratuvarınızda çok tehlikeli bir virüs var ama onu kamusal alana yaymıyorsunuz; bu iyi"

Yuval Noah Harari, İyi Küresel Zirve için Yapay Zeka, 2023

“Kamusal alana yaymadığınız sürece laboratuvarınızda son derece gelişmiş bir yapay zeka aracına sahip olabilirsiniz. Bu daha az tehlikeli” dedi Harari.

“Biliyorsunuz, sanki laboratuvarınızda çok tehlikeli bir virüs var ama onu kamusal alana yaymıyorsunuz; bu iyi. Orada bir güvenlik payı var.”

İlaç şirketlerinin ve otomobil üreticilerinin güvenlik kontrollerinden geçmesi gerektiği gibi Harari de aynı şeyin yapay zeka için de geçerli olması gerektiğini savundu.

“Artık tarihte ilk kez milyarlarca sahte insan yaratmak mümkün… Kimin gerçek insan, kimin sahte insan olduğunu bilemezseniz güven çöker ve bununla birlikte en azından özgür toplum ortaya çıkar. ”

Yuval Noah Harari, İyi Küresel Zirve için Yapay Zeka, 2023

Yapay zeka tarafından oluşturulan deepfake'ler ve botlar konusunda Harari şunları söyledi: " Artık tarihte ilk kez, çevrimiçi olarak biriyle etkileşimde bulunduğunuz ve varlığından haberdar olmadığınız sahte insanlar yaratmak - milyarlarca sahte insan yaratmak - mümkün. bu gerçek bir insan ya da bir bot.

“Muhtemelen bir yıl içinde, şu anda yaptığımız bu konuşmada, bir deepfake ile mi yoksa gerçek bir insanla mı konuştuğunuzdan emin olmak neredeyse imkansız olacak.

"Eğer bunun olmasına izin verilirse, sahte paranın finansal sistemi tehdit ettiği şeyin aynısı topluma da yapılacaktır."

“Kamusal alana yaymadan önce yapay zekanın toplum, kültür, psikoloji ve dünya ekonomisi üzerindeki potansiyel etkisini daha iyi anlamalıyız”

Yuval Noah Harari, İyi Küresel Zirve için Yapay Zeka, 2023

Tarihçi şunları ekledi: “Kimin gerçek insan , kimin sahte insan olduğunu bilemezseniz güven çöker ve bununla birlikte en azından özgür toplum çöker. Belki diktatörlükler bir şekilde idare edebilir ama demokrasiler başaramaz.”

Harari, sahte insanlar yaratmanın, bu şekilde etiketlendikleri ve gerçekmiş gibi gösterilmedikleri sürece sorun olmadığını açıkladı: "Bunun gerçek bir insan olup olmadığını bilmem gerekiyor" dedi.

Uluslararası Telekomünikasyon Birliği, Birleşmiş Milletler'in bilgi ve iletişim teknolojileri (BİT) konusunda uzmanlaşmış kuruluşudur.

“Artık gizemli ruhlar değiliz; artık hacklenebilir hayvanlarız”

Yuval Noah harari, Dünya Ekonomik Forumu, 2020

Harari, Dünya Ekonomik Forumu'nun (WEF) Davos'taki yıllık toplantılarında birçok kez konuştu ve şunları söyledi: “Biz insanlar, artık gizemli ruhlar olmadığımız fikrine alışmalıyız; artık hacklenebilir hayvanlarız.”

2020 yılında WEF'te konuşan Harari şunları söyledi: "İnsanları hacklemek için çok fazla biyolojik bilgiye, çok fazla bilgi işlem gücüne ve özellikle de çok fazla veriye ihtiyacınız var.

"Hakkımda yeterli veriniz, yeterli bilgi işlem gücünüz ve biyolojik bilginiz varsa, bedenimi, beynimi, hayatımı hackleyebilirsiniz. Beni benim kendimi tanıdığımdan daha iyi tanıyacağın bir noktaya ulaşabilirsin.”

İnsanları hackleme gücüne sahip olan Harari, "Elbette çok daha iyi sağlık hizmetleri sağlamak gibi iyi amaçlar için kullanılabilir, ancak bu güç 21. Yüzyıl Stalin'inin eline düşerse sonuç en kötü totaliter olacaktır" dedi. insanlık tarihindeki rejimdir ve 21. Yüzyıl Stalin'i için şimdiden çok sayıda adayımız var.”

“Hayali senaryolar değil, gerçekten meydana gelen anlamlı bir zarar görene kadar yapay zekayı düzenlememeliyiz”

Michael Schwarz, WEF Büyüme Zirvesi, 2023

WEF Büyüme Zirvesi 2023'te " Büyümenin Sıcak Noktaları: Üretken Yapay Zeka Devriminden Yararlanmak " konulu bir panelde konuşan Microsoft'tan Michael Schwarz, konu yapay zeka olduğunda, kötü bir şey olana kadar onu düzenlememenin en iyisi olacağını savundu. potansiyel olarak daha büyük faydaları bastırır.

“ Evet, yapay zekanın kötü aktörler tarafından kullanılacağından oldukça eminim; ve evet, gerçek hasara yol açacaktır; ve evet, çok dikkatli ve tetikte olmalıyız ," dedi Schwarz WEF paneline.

Üretken yapay zekanın düzenlenmesi hakkında soru sorulduğunda Microsoft baş ekonomisti şunları açıkladı:

“Yapay zekayı düzenleme konusundaki felsefemiz ne olmalı? Açıkçası bunu düzenlememiz gerekiyor ve oradaki felsefemin çok basit olduğunu düşünüyorum.

“ Yapay zekayı, bebeği banyo suyuyla birlikte atmayacak şekilde düzenlemeliyiz .

“Dolayısıyla düzenlemenin soyut ilkelere dayanmaması gerektiğini düşünüyorum.

"Bir ekonomist olarak verimliliği seviyorum, bu nedenle öncelikle, hayali senaryolar değil, gerçekten meydana gelen anlamlı bir zarar görene kadar yapay zekayı düzenlememeliyiz ."

23 Ocak 2023'te Microsoft , ChatGPT'nin yaratıcıları olan OpenAI ile ortaklığını genişletti ve Bloomberg'e göre "Microsoft'un 2019'da OpenAI'ye ve 2021'de bir sonraki turda aktardığı 1 milyar doların" üzerine 10 milyar dolar daha yatırım yaptı .