Sentient telah mengukir laluan unik, menggabungkan teknologi blockchain dengan AI sumber terbuka untuk mencipta ekosistem milik komuniti. Dengan lebih 1 juta pendaftaran senarai tunggu untuk Sentient Chat dalam masa 24 jam sahaja dan 650,000 NFT pudina yang memecahkan rekod untuk model AI terdesentralisasi mereka, Dobby, Sentient sedang mentakrifkan semula masa depan AI.
Menerajui revolusi ini ialah Himanshu Tyagi, Pengasas Bersama Sentient dan Profesor di Institut Sains India, yang kepakarannya dalam AI dan blockchain memacu inovasi seperti Agen Penaakulan dan chatbot yang menyaingi Perplexity. Kami duduk bersama Himanshu untuk meneroka cabaran teknikal, penyelesaian terobosan dan visi bercita-cita tinggi di sebalik kebangkitan Sentient.
Ishan Pandey: Sentient Chat telah meledak ke tempat kejadian dengan lebih 1 juta pendaftaran senarai tunggu dalam masa kurang dari 24 jam. Apakah cabaran teknikal yang anda hadapi dalam membina platform AI yang terdesentralisasi dan mesra pengguna?
Himanshu Tyagi: Desentralisasi adalah asas kepada misi kami, melangkaui Sembang Sentient sahaja. Kami percaya bahawa masa depan AI mestilah terbuka dan didorong oleh komuniti, kerana desentralisasi secara unik memperkasakan penyertaan komuniti yang aktif. Falsafah ini mengalir terus ke dalam produk kami—terutamanya, Sentient Chat.
Dengan Sentient Chat, matlamat kami adalah untuk memastikan komuniti benar-benar merasakan pemilikan. Pengguna bukan sahaja pengguna pasif; mereka adalah pencipta, pengacu, dan pengurus platform. Mereka mempunyai kawalan penuh—daripada model dan ejen AI yang mendasari, kepada data dan tadbir urus—membolehkan mereka membentuk produk dengan tepat agar sesuai dengan pelbagai keperluan dan kes penggunaan mereka.
Secara kritis, desentralisasi dan kebolehgunaan mengukuhkan satu sama lain dalam Sentient Chat. Dengan memperkasakan pengguna untuk menyesuaikan dan meningkatkan platform, setiap inovasi yang dibangunkan oleh satu pengguna atau pasukan boleh diakses oleh komuniti yang lebih luas. Sumbangan kolektif ini memperkayakan kebolehgunaan platform, terus memacu peningkatan dan inovasi yang memberi manfaat kepada semua yang terlibat.
Akhirnya, desentralisasi tidak merumitkan pengalaman pengguna—ia meningkatkan pengalaman itu, mewujudkan ekosistem yang bertenaga di mana kreativiti dan kerjasama kolektif diterjemahkan terus ke dalam platform yang lebih berkuasa, fleksibel dan mesra pengguna.
Ishan Pandey: Anda telah meletakkan Sentient Chat sebagai pesaing kepada Perplexity, dikuasakan oleh Dobby, model AI milik komuniti pertama di dunia. Bolehkah anda membimbing kami melalui inovasi teknikal di sebalik Dobby dan bagaimana ia menyokong keupayaan unik Sentient Chat?
Himanshu Tyagi: AI dengan pantas menjadi perantara antara rangkaian maklumat dan pengguna, memberikannya kuasa besar untuk mempengaruhi perspektif pengguna berdasarkan kecenderungan yang wujud. Matlamat kami adalah untuk memperkasakan komuniti dengan membolehkan mereka menjajarkan model AI mengikut nilai khusus mereka, sekali gus mempromosikan ekosistem model "Loyal AI" yang pelbagai. Walaupun berat sebelah akan sentiasa wujud disebabkan oleh data latihan, pengguna tidak seharusnya terhad kepada model umum yang hanya rata-rata pendapat internet. Sebaliknya, kami membayangkan pengguna memilih daripada pelbagai model yang sejajar dengan nilai komuniti yang berbeza.
Dobby mewakili model pertama sebegitu, secara jelas sejajar dengan nilai komuniti crypto—kebebasan pro-crypto dan pro-peribadi. Dengan Dobby, kami telah mencapai tiga kejayaan teknikal yang ketara:
Penjajaran Nilai Berkesan Tanpa Kehilangan Prestasi: Menjajarkan model AI kepada nilai tertentu melalui penalaan halus adalah sangat mencabar, selalunya membawa kepada prestasi yang merosot dan output yang tidak koheren. Dengan Dobby, kami telah berjaya memperhalusi model Llama untuk menerima nilai tertentu sambil mengekalkan prestasi cemerlang merentas penanda aras kritikal.
Nada yang mengutamakan manusia dan Kebebasan Berekspresi dengan Keselamatan: Mencapai penjajaran yang diingini memerlukan pengalihan pagar sedia ada daripada Llama dan membina semula dengan teliti. Anehnya, proses ini meningkatkan nada model, menghasilkan interaksi yang lebih semula jadi dan berpaksikan manusia. Walaupun dengan kekangan yang santai, Dobby kekal selamat, seperti yang ditunjukkan oleh metrik daripada "Maaf Bangku" kami. Selain itu, model Dobby-mini 8B dan Dobby 70B kami mempamerkan kawalan terperinci ke atas dimensi keselamatan tertentu (seperti ucapan benci, nasihat kewangan, perubatan dan undang-undang serta kandungan eksplisit), membolehkan kami pelarasan tepat profil keselamatan model.
Cap Jari untuk Pemilikan Model Paling Teragih Pernah: Dobby kini merupakan model yang paling banyak diedarkan, dengan lebih 660,000 pemilik. Tahap pengedaran yang belum pernah berlaku sebelum ini difasilitasi oleh teknologi cap jari kami yang inovatif. Cap jari menyuntik pasangan tindak balas kunci yang unik ke dalam model, membolehkan pengesahan pemilikan yang mantap. Cap jari ini mempunyai kesan yang boleh diabaikan pada prestasi model keseluruhan dan berdaya tahan untuk dialih keluar melalui penalaan halus, penggabungan model atau pengubahsuaian lain.
Sentient Chat ialah platform carian kami yang dikuasakan AI, direka untuk mempamerkan dan memberikan pengguna pengalaman langsung tentang konsep tidak ketara AI Setia. Platform ini menunjukkan kelebihan daya saing ekosistem sumber terbuka, berjaya mengatasi platform seperti Perplexity dan memadankan penanda aras carian ChatGPT.
Dikuasakan oleh Dobby, Sentient Chat menggambarkan bagaimana Loyal AI boleh mempengaruhi secara langsung maklumat yang dihantar kepada pengguna, mempersembahkan kandungan secara ringkas dan menarik. Penyepaduan Dobby ke dalam Sentient Chat telah meningkatkan kecekapan dan nilai hiburan interaksi carian. Dengan gaya komunikasi Dobby yang jelas, seperti manusia, tanpa karut, pengguna boleh mengakses maklumat yang mereka cari dengan cepat dan berkesan, menyerlahkan kelebihan tersendiri platform dalam pengalaman carian dipacu AI.
Ishan Pandey: Salah satu aspek Sentient Chat yang paling menarik ialah Ejen Penaakulannya, dilengkapi dengan alatan seperti carian, kalkulator dan pemikiran. Bagaimanakah anda arkitek ejen ini, dan apakah halangan teknikal yang anda atasi untuk menjadikan penaakulan sebagai kekuatan teras?
Himanshu Tyagi: Kemajuan terkini telah menunjukkan bahawa menjana kod Python boleh laku untuk panggilan alat menghasilkan peningkatan prestasi yang ketara berbanding pendekatan berasaskan JSON konvensional. Khususnya, LLM sememangnya mahir dalam memampatkan ruang tindakan tugas menggunakan kod. Ini secara semula jadi mendorong penggunaan kod sebagai mod ekspresi untuk ejen penaakulan kami. Kadangkala kod tulis LLM yang tidak melaksanakan/menjalankan cara yang dimaksudkan, ini diperbaiki oleh penterjemah Python yang menyemak sama ada kod yang dihasilkan melaksanakan atau membuang ralat, jika ia membuang ralat, maka ia akan terus menjana semula kod (dengan kesan ralat sebelumnya) sehingga ia menghasilkan kod yang memuaskan.
Kaveat lain ialah LLM mungkin menjana kod fungsian yang tidak melakukan apa yang dimaksudkan untuk dilakukan (cth memanggil alat kalkulator dan bukannya mencari); ejen penaakulan mampu mencerna output maklumat dan menilai sama ada ia sesuai dengan, pada peringkat umum, apa yang diharapkan daripada panggilan kod/alat tertentu.
Kami menguji dua jenis ejen yang berbeza dalam bahagian Ejen Penaakulan Terbuka rangka kerja ODS: Rantaian Pemikiran dengan ejen ReAct dan Rantaian Kod dengan ejen CodeAct.
Dalam seni bina Chain-of-Thought ReAct, ejen mengikuti gelung tindakan penaakulan berulang. Pertama, langkah 'Think' membolehkan ejen membuat alasan secara dalaman, menyatakan rancangan atau mentafsir keputusan perantaraan dalam bahasa semula jadi. Setiap kali ejen menghadapi ketidakpastian atau kekurangan maklumat kritikal, ia menggunakan alat 'Cari', secara aktif mendapatkan maklumat luaran daripada web. Untuk tugas aritmetik atau pengiraan yang memerlukan ketepatan tinggi, ejen menggunakan alat 'Kira'. Oleh itu, CoT-ReAct sentiasa berputar melalui pemikiran, pencarian dan pengiraan mengikut keperluan, sehingga ia mencapai penyelesaian yang boleh dipercayai.
Sebaliknya, ejen Chain-of-Code atau CodeAct menggunakan kod boleh laku untuk melaksanakan tugas penaakulannya. Pada mulanya, ejen itu memikirkan strateginya, serupa dengan CoT-ReAct. Walau bagaimanapun, daripada bergantung semata-mata pada bahasa semula jadi, ia menghasilkan kod Python boleh laku sebagai sebahagian daripada alasannya. Fungsi 'Calculate' dibenamkan dengan lancar di sini, disepadukan terus ke dalam persekitaran pelaksanaan Python. Ini membolehkan pengiraan yang tepat dan penaakulan algoritma. Seperti CoT-ReAct, CodeAct juga menggunakan alat 'Cari' apabila maklumat luaran tambahan diperlukan, menggabungkan keputusan terus ke dalam penjanaan kod dan proses pelaksanaannya.
Perbezaan utama terletak pada cara setiap ejen berinteraksi dengan alat ini. Untuk CoT-ReAct, 'Think', 'Search' dan 'Calculate' ialah tindakan berasingan yang dipilih secara eksplisit semasa membuat penaakulan. Untuk CodeAct, sementara 'Think' kekal sebagai langkah perancangan yang jelas, 'Calculate' sememangnya terbina dalam pelaksanaan kod itu sendiri, menjadikan tugas pengiraan penting dan bukannya luaran. 'Cari' kekal sama eksplisit dalam kedua-dua pendekatan, menyediakan konteks luaran yang penting apabila pengetahuan dalaman ejen tidak mencukupi.
Ishan Pandey: Sentient menyelesaikan 650,000 NFT pudina yang memecahkan rekod untuk Dobby, mengikat pemilikan kepada model AI terdesentralisasi. Apakah infrastruktur teknikal yang anda bina untuk mengendalikan skala ini, dan bagaimana blockchain meningkatkan aspek pemilikan komuniti?
Himanshu Tyagi: Ini bukan masalah yang mencabar dari segi teknikal - blokchain moden boleh mengendalikan beban sedemikian dengan mudah. Bahagian yang paling menarik di sini ialah ini adalah kali pertama sesiapa menunjukkan skala "demokrasi langsung" ini dalam model tadbir urus. Dalam syarikat berpusat, tadbir urus ini dilakukan oleh pasukan penjajaran kecil yang kadangkala telah mengubah suai model untuk memadankan kepercayaannya sendiri. Anthropic telah melakukan beberapa eksperimen mudah di bawah nama AI berperlembagaan dengan kira-kira 1000 orang, tetapi tidak ada yang dekat dengan tadbir urus terbuka oleh komuniti ini. Kami mahu memberikan kuasa ini kepada orang ramai dan blockchain adalah instrumen yang sempurna untuk itu. Komuniti Dobby sudah memutuskan jenis persona yang Dobby perlu ada, diikat atau dilepaskan (mereka memilih tidak diikat daripada diikat). Pada masa hadapan, semua keputusan tentang model Dobby-unhinged akan diambil oleh komuniti ini, yang juga akan mendapat ganjaran apabila penggunaan model meningkat.
Melangkah ke hadapan, NFT pemilikan ini akan ditukar kepada token pemilikan pada rantaian blok kami yang boleh digunakan untuk mentadbir penjajaran dan kemas kini kepada model ini. Tambahan pula, cap jari yang berkaitan akan dilakukan sebagai akar Merkle kepada kontrak yang sama - sesiapa sahaja boleh mengesahkan identiti model dengan bertanya pertanyaan cap jari kami dan boleh menyemak sama ada pertanyaan yang sama dilakukan dengan kontrak pemilikan.
Ishan Pandey: Ejen Penaakulan Anda menyepadukan alatan masa nyata dan bertujuan untuk menangani tugas yang samar-samar dan subjektif. Bagaimanakah ini berbeza daripada ejen penaakulan sedia ada, seperti Penyelidikan Dalam OpenAI, dan apakah penyelesaian baru yang anda laksanakan untuk menolak sempadan penaakulan AI?
Himanshu Tyagi: Apabila membandingkan platform sumber terbuka kami dengan pesaing sumber tertutup, kelebihan daya saing utama sistem tertutup secara tradisinya ialah teknologi mereka. Walau bagaimanapun, platform seperti Sentient Chat dan Open Data Sources (ODS) telah menyamakan kedudukan dengan berkesan dengan mendemokrasikan pengetahuan AI, menjadikan rangka kerja kami terbuka sepenuhnya kepada komuniti. Platform sumber tertutup, seperti oleh OpenAI, beroperasi sebagai kotak hitam; sama ada anda, saya, mahupun orang lain tidak dapat memahami sepenuhnya proses dalaman mereka.
Sebaliknya, rangka kerja terbuka kami mengundang inovasi berterusan daripada komuniti yang lebih luas, membolehkan pengenalpastian pantas dan penyelesaian jurang yang mungkin kekal tanpa disedari. Pendekatan kolaboratif, input terbuka dan output terbuka ini adalah kunci untuk membina platform carian yang terbaik. Visi utama kami termasuk membolehkan pengguna menyumbang sumber data dan ejen mereka sendiri, dengan itu meningkatkan Sentient Chat dan ODS secara drastik melalui peningkatan kolektif yang didorong oleh komuniti.
Ishan Pandey: Anda telah menekankan kelebihan Sentient Chat berbanding pesaing seperti Perplexity dengan integrasi 15+ ejen AInya. Apakah cabaran teknikal yang hadir dengan menyepadukan berbilang ejen ke dalam satu antara muka chatbot, dan bagaimana anda menyelesaikannya?
Himanshu Tyagi: Secara teknikal, kami menangani banyak perisian yang kompleks dan cabaran reka bentuk untuk membolehkan pelbagai ejen mengambil bahagian dalam pengalaman pengguna tunggal melalui Sentient Chat. Kami juga menawarkan banyak alat kepada pembina ejen ini seperti API carian AI tercanggih kami, Sentient Secure Enclave yang menawarkan untuk membina "ejen tidak tahan lasak", dll. Tetapi lebih daripada menangani cabaran teknikal ini, bahagian yang paling menarik di sini ialah kemungkinan cara baharu untuk mengakses pengetahuan internet.
Selama beberapa dekad, Google telah mendominasi carian dengan memfokuskan terutamanya pada membantu pengguna mencari maklumat dalam talian. Kebergantungan Google pada hasil pengiklanan, yang berakar umbi dalam mengesyorkan sumber untuk maklumat, sememangnya mengehadkan keupayaannya untuk berinovasi melangkaui perolehan semula maklumat tradisional. AI, sebaliknya, memberi peluang untuk memintas pengumpulan maklumat semata-mata, membolehkan pengguna melaksanakan tugas secara langsung tanpa memerlukan analisis dan fasa tindakan yang berasingan, yang merupakan kelebihan daya saing kami yang tepat terhadap raksasa Google.
Visi bercita-cita tinggi ini memerlukan ekosistem yang pelbagai—satu ekosistem yang mengintegrasikan pelbagai sumber data diindeks dengan banyak ejen AI yang mampu melakukan tindakan khusus. Kunci untuk membuka potensi ini terletak pada mewujudkan platform yang telus dan terbuka, secara aktif memberi insentif kepada penyertaan komuniti yang luas. Pembekal data mesti memahami dengan jelas nilai sumbangan mereka, manakala pembangun ejen mesti menyepadukan perkhidmatan mereka dengan lancar untuk meningkatkan fungsi keseluruhan. Ekosistem sedemikian mesti ditadbir komuniti, memastikan keadilan, keterbukaan, dan inovasi berterusan didorong oleh sumbangan dan kerjasama kolektif.
By the way, lebih daripada 15 ejen akan datang di Sentient Chat!
Ishan Pandey: Melihat ke hadapan, apakah yang seterusnya untuk Sentient dari segi inovasi teknikal? Bagaimanakah anda merancang untuk mengembangkan Agen Penaakulan dan mengembangkan ekosistem AGI terbuka?
Himanshu Tyagi: Kami melihat masa depan di mana AI menjadi perantara antara semua deria manusia, maklumat global dan rangkaian sosial. Visi Sentient adalah untuk memastikan AI ini setia kepada kami. Objektif tunggal ini memacu semua pembangunan kami. Untuk ejen penaakulan, kami ingin memastikan bahawa pembangun mendapat akses kepada model yang keupayaan dan kemahiran penaakulannya sejajar dengan minat atau kes penggunaan mereka.
Sebagai contoh, jika anda membina ejen berdaulat yang boleh mengawal dompet, model asas harus mempunyai keupayaan penaakulan untuk memastikan bahawa pelakon yang berniat jahat tidak boleh memanipulasi gesaan dan mencuri dana. Ini adalah penjajaran - kami akan membina model sejajar sedemikian. Setiap bangunan pembangun dalam ekosistem Open AGI harus mempunyai pilihan untuk menggunakan model AI yang akan setia kepada aplikasi atau pengguna mereka. Sentient Chat ialah tawaran kolektif semua ejen sedemikian yang dibina di atas Loyal AI.
Jangan lupa like dan share ceritanya!
Pendedahan Kepentingan Terpelihara: Pengarang ini adalah penyumbang bebas yang menerbitkan melalui kami
