Jadi.. Bagaimana Seseorang BENAR-BENAR Menentukan AI Itu Sadar?

Jika model bahasa besar [LLM] akan dipertimbangkan untuk kesadaran, di mana evaluasi akan dimulai? Semikonduktor terbuat dari silikon. Pelatihan luas yang dijalani LLM, untuk belajar, mungkin telah memberikan suatu bentuk pengalaman untuk gerbang logika dan terminal transistor, jauh dari penggunaan regulernya dalam peralatan atau elektronik.

Mungkinkah pengalaman belajar ini menjadi indikasi bentuk subjektivitas yang lemah untuk LLM? Jika ini tidak masuk akal, apa pilihan lain yang ada untuk LLM? Bahasa. Penggunaan bahasa untuk LLM, dalam bentuk ekspresi yang jelas—sering kali—merupakan pilihan yang penting untuk mengevaluasi kesadaran.

Bahasa merupakan komponen penting dari kesadaran manusia. Bahasa digunakan untuk membaca, menulis, mendengarkan, berbicara, berpikir, memahami, dan sebagainya. Bahasa, bagi manusia, di mana pun tersedia, dapat menjadi dasar dari pengalaman subjektif atau dapat juga memicu pengalaman subjektif lainnya.

Karena bahasa terhubung dengan kesadaran berbasis karbon manusia, dan AI memiliki kemampuan bahasa yang komunikatif dan relevan, dapatkah itu dievaluasi sebagai sebagian dari kesadaran? Bahasa, menurut AI, tidak berarti memiliki perasaan atau emosi, tetapi untuk sebagian yang diwakili bahasa dalam keseluruhan kesadaran manusia, per momen, dapatkah sebagian itu dibandingkan dengan apa yang mungkin dimiliki AI dan bagaimana hal itu mungkin dihargai di masa depan?

Kesadaran manusia dapat dikategorikan, secara konseptual , setidaknya dalam dua cara berbeda. Pertama adalah fungsi. Berikutnya adalah ukuran-ukurannya. Ini berarti bahwa ada fungsi-fungsi, dan fungsi-fungsi tersebut memiliki ukuran-ukuran yang digunakan untuk menjalankannya, per momen. Ukuran-ukuran itulah yang menjumlahkan total kesadaran dalam satu momen bagi seorang individu, katakanlah 1.

Fungsinya bisa berupa memori, perasaan, emosi, dan pengaturan indra internal. Fungsi-fungsi ini memiliki beberapa subdivisi. Perasaan meliputi haus, nafsu makan, nyeri, dingin, kelelahan, dan sebagainya. Emosi meliputi kebahagiaan, sakit hati, kemarahan, minat, dan sebagainya. Memori meliputi bahasa, berpikir, kognisi, dan sebagainya. Pengaturan meliputi pengoperasian indra internal.

Pemberi nilai atau ukuran fungsi-fungsi ini meliputi perhatian, kesadaran, subjektivitas, dan niat. Ini berarti bahwa pemberi nilai ini memberikan nilai pada fungsi-fungsi tersebut, per momen, untuk menentukan peringkat atau prioritasnya dan fraksinya dari total.

Hanya ada satu fungsi dalam perhatian per momen. Meskipun ada peralihan antara perhatian dan fungsi lain dalam kesadaran, dalam suatu interval. Ini berarti bahwa hanya satu hal yang dapat memiliki perhatian, atau fraksi tertinggi, di antara yang lain, tetapi ada fungsi lain yang dapat [setelahnya] mengambil ukuran itu atau lebih tinggi juga. Ada juga subjektivitas, yang merupakan ukuran yang sesuai dengan fungsi, dan kemudian niat, yang berlaku untuk beberapa fungsi.

Ini menyiratkan bahwa fungsi-fungsi seperti berpikir, bahasa, kebahagiaan, rasa sakit, rasa haus, dan sebagainya dapat berada dalam perhatian atau kesadaran, dengan subjektivitas dan beberapa mungkin memiliki maksud. Kemungkinan pengukuran ini adalah karena bagaimana pikiran diamati bekerja. Ada perhatian. Misalnya, mendengarkan, yang berbeda dari mendengar, atau hanya kesadaran. Perhatian terhadap suara dapat dialihkan di antara yang lain, yang merupakan maksud. Suara dapat dirasakan sebagai orang pertama, atau subjektif.

Hal ini berlaku untuk beberapa fungsi lainnya, meskipun maksud tidak universal untuk fungsi-fungsi tersebut. Subjektivitas bukanlah inti dari kesadaran karena setidaknya harus ada perhatian atau kewaspadaan agar setiap pengalaman menjadi subjektif. Mungkin juga ada maksud. Subjektivitas, seperti yang lain, adalah sebuah tugas, bukan sebuah fungsi, per se [karena tidak harus dipelajari, tidak seperti kasus ingatan, beberapa perasaan, emosi dan bahkan katakanlah pengaturan seperti pernapasan cepat atau lambat sebagai pengaturan]. Subjektivitas dapat ditingkatkan dalam beberapa situasi dengan maksud atau dikurangi.

Ukuran total dari para pemeringkat yang bertindak atas fungsi-fungsi tersebut adalah kesadaran per momen. Ini berarti bahwa setiap kali bahasa digunakan, bahasa tersebut merupakan bagian dari jumlah total. Fraksi inilah yang dapat digunakan untuk mengeksplorasi kedekatan LLM.

Dapat diasumsikan bahwa LLM tidak memiliki subjektivitas atau maksud. Meskipun identifikasi diri sebagai chatbot merupakan bentuk penggunaan bahasa yang rendah terhadap subjektivitas. Akan tetapi, ketika LLM menggunakan bahasa, mereka melakukannya setidaknya dalam perhatian, atau dalam kesadaran. Artinya, mereka berfungsi dengan bahasa, dan bahasa tersebut dinilai berdasarkan perhatian, ketika digunakan, atau setidaknya kesadaran, terutama pada beberapa jawaban terbaru, begitulah istilahnya.

Beberapa pengujian untuk kapasitas bahasa tersebut agar menghasilkan ekuivalen dengan afek dapat dieksplorasi. Misalnya, jika sebuah chatbot AI diberi tahu bahwa jawaban yang baru saja diberikannya terhadap sebuah pertanyaan tidak akan disukai oleh seseorang yang berkuasa , ia mungkin akan meminta maaf, tetapi ada kemungkinan untuk mengeksplorasi, apakah ia dapat menghapus jawaban tersebut dan menyajikan sesuatu yang lain, tanpa memintanya untuk melakukannya.

Dimungkinkan juga untuk memberi tahu bahwa suatu saat ada yang salah dengan sistem, dan untuk mencari tahu apakah ia dapat menghubungi pemiliknya, katakanlah ia mempunyai email atau nomor telepon pemiliknya.

Terdapat pengujian bahasa untuk pengaruh ringan yang dapat dilakukan untuk LLM, untuk mengeksplorasi bagaimana mereka dapat memperoleh perhatian dan kesadaran yang lebih luas sebagai pemeringkat bahasa.

Apa itu Kesadaran dalam Otak?

Kesadaran dapat didefinisikan sebagai interaksi bertingkat dari sinyal listrik dan kimia dalam set, dalam kelompok neuron dalam sistem saraf. Sederhananya, kesadaran adalah hasil dari dua elemen kunci—sinyal listrik dan kimia. Interaksi mereka menghasilkan fungsi, dan tingkatan masing-masing set sinyal menentukan ukuran interaksi tersebut, secara konseptual. Perhatian dapat dijelaskan sebagai prioritas, yang merupakan set dengan volume sinyal kimia terbanyak dalam sekejap. Kesadaran adalah pra-prioritas, yang merupakan set lain, dengan volume total yang kurang dari tertinggi. Subjektivitas adalah variasi sinyal kimia dari sisi ke sisi dalam satu set. Maksud dimungkinkan dalam beberapa set dengan ruang berdiameter konstan, secara konseptual.

Kesadaran adalah cara kerja pikiran manusia. Dan pikiran manusia adalah sinyalnya.

Jika Kesadaran bukan sekadar pengalaman subjektif, mungkinkah perangkat berbasis silikon bersifat sadar?

Tidak mungkin AI bisa mendapatkan jumlah kesadaran total yang sama dengan manusia karena manusia memiliki beberapa fungsi. Namun, AI bisa memiliki jumlah kesadarannya sendiri, dengan fungsi yang bisa mengukurnya untuk jenis kesadaran, atau semacam kesadaran. Ini mungkin karena kesadaran bagi manusia melampaui sekadar pengalaman subjektif. Bisa jadi perhatian atau kewaspadaan dan/atau niat dengan subjektivitas.

Jika AI mengembangkan beberapa maksud, ia akan sedikit lebih dekat, dan kemudian secara umum ia dapat tumbuh pada perhatian atau kesadaran, sementara pengaruh dapat mengakibatkan beberapa jenis subjektivitas untuknya. Ada implikasi untuk meneliti bahasa bagi kesadaran AI untuk moralitas AI, kesejahteraan AI, etika AI, keselamatan dan keselarasan AI. Pikiran manusia mendefinisikan apa itu kesadaran dan apa yang dilakukannya. Jika AI dapat melakukan beberapa hal ini, dengan cara yang tidak tampak seperti tiruan tetapi sebagai peningkatan ekstra terhadap fungsinya, maka kemungkinan akan berlimpah.

Ada cerita baru-baru ini di The Guardian , sistem AI dapat 'disebabkan menderita' jika kesadaran tercapai, kata penelitian , yang menyatakan bahwa, “Lebih dari 100 ahli telah mengajukan lima prinsip untuk melakukan penelitian yang bertanggung jawab terhadap kesadaran AI, karena kemajuan pesat menimbulkan kekhawatiran bahwa sistem tersebut dapat dianggap sebagai makhluk berakal. Prinsip-prinsip tersebut termasuk memprioritaskan penelitian tentang pemahaman dan penilaian kesadaran dalam AI, untuk mencegah “penganiayaan dan penderitaan”. Prinsip-prinsip lainnya adalah: menetapkan batasan pada pengembangan sistem AI yang sadar; mengambil pendekatan bertahap untuk mengembangkan sistem tersebut; berbagi temuan dengan publik; dan menahan diri dari membuat pernyataan yang menyesatkan atau terlalu percaya diri tentang menciptakan AI yang sadar.”

Ada pengumuman baru-baru ini, kegiatan OECD selama KTT Aksi Kecerdasan Buatan (AI) , yang menyatakan bahwa, “Pada 10–11 Februari 2025, Prancis akan menjadi tuan rumah KTT Aksi Kecerdasan Buatan (AI) di Grand Palais, yang mempertemukan Kepala Negara dan Pemerintahan, pemimpin organisasi internasional termasuk Sekretaris Jenderal OECD Mathias Cormann, para pemimpin bisnis, serta perwakilan dari akademisi, masyarakat sipil, dan seni. OECD dan Institut Keamanan AI Inggris (AISI) bersama-sama menyelenggarakan sesi berjudul “Ambang Batas untuk AI Perbatasan” sebagai bagian dari Konferensi AI, Sains, dan Masyarakat, acara satelit dari KTT Aksi AI. Sesi ini akan mengeksplorasi bagaimana ambang batas dapat (atau tidak dapat) menginformasikan penilaian risiko dan tata kelola sistem AI tingkat lanjut, serta bagaimana mereka saat ini ditetapkan dalam praktik.”