210 bacaan

Bagaimana Agen Penalaran Sentient Mengalahkan Pesaingnya: Pandangan dari Dalam

oleh Ishan Pandey9m2025/04/02
Read on Terminal Reader

Terlalu panjang; Untuk membaca

Himanshu Tyagi dari Sentient mengungkap bagaimana blockchain dan AI bersatu dalam revolusi milik komunitas, yang memberdayakan Sentient Chat dan Dobby.
featured image - Bagaimana Agen Penalaran Sentient Mengalahkan Pesaingnya: Pandangan dari Dalam
Ishan Pandey HackerNoon profile picture
0-item
1-item
2-item


Sentient telah mengukir jalur unik, memadukan teknologi blockchain dengan AI sumber terbuka untuk menciptakan ekosistem milik komunitas. Dengan lebih dari 1 juta pendaftaran daftar tunggu untuk Sentient Chat hanya dalam 24 jam dan pencetakan 650.000 NFT yang memecahkan rekor untuk model AI terdesentralisasi mereka, Dobby, Sentient mendefinisikan ulang masa depan AI.


Di pucuk pimpinan revolusi ini adalah Himanshu Tyagi, salah satu pendiri Sentient dan seorang Profesor di Institut Sains India, yang keahliannya dalam AI dan blockchain mendorong inovasi seperti Reasoning Agent dan chatbot yang menyaingi Perplexity. Kami berbincang dengan Himanshu untuk membahas tantangan teknis, solusi inovatif, dan visi ambisius di balik kebangkitan Sentient.

Ishan Pandey: Sentient Chat telah meroket dengan lebih dari 1 juta pendaftaran dalam daftar tunggu dalam waktu kurang dari 24 jam. Tantangan teknis apa yang Anda hadapi dalam membangun platform AI yang terdesentralisasi dan ramah konsumen?

Himanshu Tyagi: Desentralisasi merupakan dasar misi kami, yang jauh melampaui Sentient Chat. Kami percaya bahwa masa depan AI harus terbuka dan digerakkan oleh komunitas, karena desentralisasi secara unik memberdayakan partisipasi aktif komunitas. Filosofi ini mengalir langsung ke produk kami—terutama, Sentient Chat.


Dengan Sentient Chat, tujuan kami adalah memastikan bahwa komunitas benar-benar merasa memiliki. Pengguna bukan sekadar konsumen pasif; mereka adalah kreator, pembentuk, dan pengelola platform. Mereka memiliki kendali penuh—mulai dari model dan agen AI yang mendasarinya, hingga data dan tata kelola—yang memungkinkan mereka membentuk produk secara tepat agar sesuai dengan beragam kebutuhan dan kasus penggunaan mereka.


Yang terpenting, desentralisasi dan kegunaan saling memperkuat dalam Sentient Chat. Dengan memberdayakan pengguna untuk menyesuaikan dan menyempurnakan platform, setiap inovasi yang dikembangkan oleh satu pengguna atau tim menjadi dapat diakses oleh komunitas yang lebih luas. Kontribusi kolektif ini memperkaya kegunaan platform, terus mendorong peningkatan dan inovasi yang menguntungkan semua pihak yang terlibat.


Pada akhirnya, desentralisasi tidak mempersulit pengalaman pengguna—malah meningkatkannya, menciptakan ekosistem yang dinamis di mana kreativitas dan kolaborasi kolektif diterjemahkan langsung ke dalam platform yang lebih kuat, fleksibel, dan ramah pengguna.

Ishan Pandey: Anda telah memposisikan Sentient Chat sebagai pesaing Perplexity, yang didukung oleh Dobby, model AI milik komunitas pertama di dunia. Dapatkah Anda menjelaskan inovasi teknis di balik Dobby dan bagaimana ia mendukung kemampuan unik Sentient Chat?

Himanshu Tyagi: AI dengan cepat menjadi perantara antara jaringan informasi dan pengguna, memberinya kekuatan signifikan untuk memengaruhi perspektif pengguna berdasarkan bias yang melekat. Tujuan kami adalah memberdayakan komunitas dengan memungkinkan mereka menyelaraskan model AI sesuai dengan nilai-nilai spesifik mereka, sehingga mempromosikan ekosistem model "Loyal AI" yang beragam. Meskipun bias akan selalu ada karena data pelatihan, pengguna tidak boleh dibatasi pada model umum yang hanya merata-ratakan opini internet. Sebaliknya, kami membayangkan pengguna memilih dari beragam model yang selaras dengan nilai-nilai komunitas yang berbeda.


Dobby merupakan model pertama yang selaras dengan nilai-nilai komunitas kripto—pro-kripto dan pro-kebebasan pribadi. Dengan Dobby, kami telah mencapai tiga terobosan teknis yang penting:


  • Penyelarasan Nilai yang Efektif Tanpa Kehilangan Performa: Menyelaraskan model AI dengan nilai-nilai tertentu melalui penyempurnaan sangat menantang, sering kali menyebabkan penurunan performa dan keluaran yang tidak koheren. Dengan Dobby, kami telah berhasil menyempurnakan model Llama untuk merangkul nilai-nilai tertentu sambil mempertahankan performa yang sangat baik di seluruh tolok ukur penting.


  • Nada Berpusat pada Manusia dan Kebebasan Berekspresi dengan Keamanan: Untuk mencapai keselarasan yang kami inginkan, kami harus menyingkirkan pembatas yang ada dari Llama dan membangunnya kembali dengan hati-hati. Anehnya, proses ini meningkatkan nada model, sehingga menghasilkan interaksi yang lebih alami dan berpusat pada manusia. Bahkan dengan batasan yang longgar, Dobby tetap aman, seperti yang ditunjukkan oleh metrik dari "Bangku Maaf" kami. Selain itu, model Dobby-mini 8B dan Dobby 70B kami menunjukkan kontrol terperinci atas dimensi keamanan tertentu (seperti ujaran kebencian, nasihat keuangan, medis, dan hukum, serta konten eksplisit), yang memungkinkan kami melakukan penyesuaian yang tepat terhadap profil keamanan model.


  • Sidik Jari untuk Kepemilikan Model yang Paling Banyak Didistribusikan: Dobby saat ini merupakan model yang paling banyak didistribusikan, dengan lebih dari 660.000 pemilik. Tingkat distribusi yang belum pernah terjadi sebelumnya ini difasilitasi oleh teknologi sidik jari inovatif kami. Sidik jari menyuntikkan pasangan respons tombol yang unik ke dalam model, yang memungkinkan verifikasi kepemilikan yang kuat. Sidik jari ini memiliki dampak yang dapat diabaikan pada kinerja model secara keseluruhan dan tahan terhadap penghapusan melalui penyempurnaan, penggabungan model, atau modifikasi lainnya.


Sentient Chat adalah platform pencarian bertenaga AI kami, yang dirancang untuk memamerkan dan memberi pengguna pengalaman langsung tentang konsep Loyal AI yang tidak berwujud. Platform ini menunjukkan keunggulan kompetitif ekosistem sumber terbuka, berhasil mengungguli platform seperti Perplexity dan menyamai tolok ukur pencarian ChatGPT.


Didukung oleh Dobby, Sentient Chat menggambarkan bagaimana Loyal AI dapat secara langsung memengaruhi informasi yang disampaikan kepada pengguna, menyajikan konten secara ringkas dan menarik. Integrasi Dobby ke dalam Sentient Chat telah meningkatkan efisiensi dan nilai hiburan dari interaksi pencarian. Dengan gaya komunikasi Dobby yang jelas, seperti manusia, dan tanpa basa-basi, pengguna dapat mengakses informasi yang mereka cari dengan cepat dan efektif, yang menonjolkan keunggulan platform yang unik dalam pengalaman pencarian yang digerakkan oleh AI.

Ishan Pandey: Salah satu aspek Sentient Chat yang paling menarik adalah Reasoning Agent-nya, yang dilengkapi dengan berbagai alat seperti pencarian, kalkulator, dan berpikir. Bagaimana Anda merancang agen ini, dan kendala teknis apa yang Anda atasi untuk menjadikan penalaran sebagai kekuatan inti?

Himanshu Tyagi: Kemajuan terkini telah menunjukkan bahwa pembuatan kode Python yang dapat dieksekusi untuk pemanggilan alat menghasilkan peningkatan kinerja yang signifikan dibandingkan dengan pendekatan berbasis JSON konvensional. Secara khusus, LLM secara inheren mahir dalam mengompresi ruang tindakan tugas menggunakan kode. Hal ini secara alami mendorong penggunaan kode sebagai mode ekspresi untuk agen penalaran kita. Terkadang LLM menulis kode yang tidak dieksekusi/berjalan sebagaimana mestinya, hal ini diperbaiki oleh interpreter Python yang memeriksa apakah kode yang dihasilkan dieksekusi atau menimbulkan kesalahan, jika menimbulkan kesalahan, maka ia akan terus membuat ulang kode (dengan jejak kesalahan sebelumnya) hingga menghasilkan kode yang memuaskan.


Peringatan lain adalah bahwa LLM dapat menghasilkan kode fungsional yang tidak melakukan apa yang seharusnya dilakukan (misalnya memanggil alat kalkulator alih-alih mencari); agen penalaran mampu mencerna keluaran informasi dan menilai apakah itu sesuai dengan, pada tingkat umum, apa yang diharapkannya dari panggilan kode/alat tertentu.


Kami menguji dua jenis agen berbeda di bagian Agen Penalaran Terbuka dari kerangka ODS: Rantai Pemikiran dengan agen ReAct dan Rantai Kode dengan agen CodeAct.


Dalam arsitektur Chain-of-Thought ReAct, agen mengikuti siklus tindakan-penalaran berulang. Pertama, langkah 'Think' memungkinkan agen untuk bernalar secara internal, mengartikulasikan rencana atau menafsirkan hasil antara dalam bahasa alami. Setiap kali agen menghadapi ketidakpastian atau kekurangan informasi penting, ia memanggil alat 'Search', yang secara aktif mengambil informasi eksternal dari web. Untuk tugas aritmatika atau komputasi yang memerlukan presisi tinggi, agen menggunakan alat 'Calculate'. Dengan demikian, CoT-ReAct terus berputar melalui pemikiran, pencarian, dan perhitungan sesuai kebutuhan, hingga tiba pada solusi yang andal.


Di sisi lain, agen Chain-of-Code atau CodeAct menggunakan kode yang dapat dieksekusi untuk menjalankan tugas penalarannya. Awalnya, agen tersebut memikirkan strateginya, mirip dengan CoT-ReAct. Namun, alih-alih hanya mengandalkan bahasa alami, agen tersebut menghasilkan kode Python yang dapat dieksekusi sebagai bagian dari penalarannya. Fungsi 'Calculate' tertanam dengan mulus di sini, terintegrasi langsung ke dalam lingkungan eksekusi Python. Hal ini memungkinkan perhitungan yang akurat dan penalaran algoritmik. Seperti CoT-ReAct, CodeAct juga menggunakan alat 'Search' saat informasi eksternal tambahan diperlukan, menggabungkan hasil secara langsung ke dalam proses pembuatan dan eksekusi kode.


Perbedaan utamanya terletak pada cara setiap agen berinteraksi dengan alat-alat ini. Untuk CoT-ReAct, 'Think', 'Search', dan 'Calculate' adalah tindakan terpisah yang dipilih secara eksplisit selama penalaran. Untuk CodeAct, sementara 'Think' tetap merupakan langkah perencanaan yang eksplisit, 'Calculate' secara inheren dibangun ke dalam eksekusi kode itu sendiri, yang menjadikan tugas komputasional integral daripada eksternal. 'Search' tetap eksplisit dalam kedua pendekatan, yang menyediakan konteks eksternal yang penting setiap kali pengetahuan internal agen tidak mencukupi.

Ishan Pandey: Sentient menyelesaikan pencetakan NFT sebanyak 650.000 yang memecahkan rekor untuk Dobby, yang menghubungkan kepemilikan dengan model AI yang terdesentralisasi. Infrastruktur teknis apa yang Anda bangun untuk menangani skala ini, dan bagaimana blockchain meningkatkan aspek kepemilikan komunitas?


Himanshu Tyagi: Ini bukan masalah yang menantang secara teknis – blockchain modern dapat dengan mudah menangani beban seperti itu. Bagian yang paling menarik di sini adalah bahwa ini adalah pertama kalinya seseorang menunjukkan skala "demokrasi langsung" ini dalam tata kelola model. Di perusahaan terpusat, tata kelola ini dilakukan oleh tim penyelarasan kecil yang terkadang bahkan memodifikasi model agar sesuai dengan keyakinannya sendiri. Anthropic telah melakukan beberapa eksperimen sederhana dengan nama AI konstitusional dengan sekitar 1000 orang, tetapi tidak ada yang mendekati tata kelola terbuka ini oleh komunitas. Kami ingin memberikan kekuatan ini kepada orang-orang dan blockchain adalah instrumen yang sempurna untuk itu. Komunitas Dobby telah memutuskan persona seperti apa yang harus dimiliki Dobby, yang terikat atau tidak terkendali (mereka memilih yang tidak terkendali daripada yang terikat). Di masa mendatang, semua keputusan tentang model Dobby yang tidak terkendali akan diambil oleh komunitas ini, yang juga akan diberi penghargaan seiring dengan meningkatnya penggunaan model.


Ke depannya, NFT kepemilikan ini akan dikonversi menjadi token kepemilikan di blockchain kami yang dapat digunakan untuk mengatur penyelarasan dan pembaruan model ini. Lebih jauh, sidik jari terkait akan dikomit sebagai root Merkle ke kontrak yang sama – siapa pun dapat memverifikasi identitas model dengan mengajukan kueri sidik jari kami, dan dapat memeriksa bahwa kueri yang sama dikomit dengan kontrak kepemilikan.

Ishan Pandey: Agen Penalaran Anda mengintegrasikan alat-alat waktu nyata dan bertujuan untuk menangani tugas-tugas subjektif yang ambigu. Apa bedanya dengan agen penalaran yang sudah ada, seperti Deep Research milik OpenAI, dan solusi baru apa yang Anda terapkan untuk mendorong batasan penalaran AI?


Himanshu Tyagi: Saat membandingkan platform sumber terbuka kami dengan pesaing sumber tertutup, keunggulan kompetitif utama sistem tertutup secara tradisional adalah teknologinya. Namun, platform seperti Sentient Chat dan Open Data Sources (ODS) telah secara efektif menyamakan kedudukan dengan mendemokratisasi pengetahuan AI, menjadikan kerangka kerja kami sepenuhnya terbuka bagi komunitas. Platform sumber tertutup, seperti yang dibuat oleh OpenAI, beroperasi sebagai kotak hitam; baik Anda, saya, maupun orang lain tidak dapat sepenuhnya memahami proses internal mereka.


Sebaliknya, kerangka kerja terbuka kami mengundang inovasi berkelanjutan dari komunitas yang lebih luas, yang memungkinkan identifikasi dan penyelesaian cepat atas kesenjangan yang mungkin tidak diperhatikan. Pendekatan kolaboratif, masukan terbuka, dan keluaran terbuka ini adalah kunci untuk membangun platform pencarian terbaik. Visi utama kami mencakup memungkinkan pengguna untuk menyumbangkan sumber data dan agen mereka sendiri, sehingga secara drastis meningkatkan Sentient Chat dan ODS melalui peningkatan kolektif yang digerakkan oleh komunitas.

Ishan Pandey: Anda telah menekankan keunggulan Sentient Chat atas pesaing seperti Perplexity dengan integrasi 15+ agen AI-nya. Tantangan teknis apa yang muncul akibat pengintegrasian beberapa agen ke dalam satu antarmuka chatbot, dan bagaimana Anda mengatasinya?

Himanshu Tyagi: Secara teknis, kami menangani banyak tantangan perangkat lunak dan desain yang rumit untuk memungkinkan berbagai macam agen berpartisipasi dalam pengalaman pengguna tunggal melalui Sentient Chat. Kami juga menawarkan banyak alat kepada para pembangun agen ini seperti API pencarian AI canggih kami, penawaran Sentient Secure Enclave untuk membangun "agen yang tangguh", dll. Namun lebih dari sekadar menangani tantangan teknis ini, bagian yang paling menarik di sini adalah kemungkinan adanya cara yang sama sekali baru untuk mengakses pengetahuan internet.


Selama beberapa dekade, Google telah mendominasi pencarian dengan berfokus terutama pada membantu pengguna menemukan informasi daring. Ketergantungan Google pada pendapatan iklan, yang berakar pada rekomendasi sumber informasi, secara inheren membatasi kemampuannya untuk berinovasi di luar pencarian informasi tradisional. Di sisi lain, AI memberikan peluang untuk melewati pengumpulan informasi belaka, yang memungkinkan pengguna untuk langsung menjalankan tugas tanpa memerlukan analisis dan fase tindakan terpisah, yang merupakan keunggulan kompetitif kami terhadap raksasa Google.


Visi ambisius ini membutuhkan ekosistem yang beragam—ekosistem yang mengintegrasikan berbagai sumber data terindeks dengan banyak agen AI yang mampu melakukan tindakan khusus. Kunci untuk membuka potensi ini terletak pada penciptaan platform yang transparan dan terbuka, yang secara aktif memberi insentif bagi partisipasi masyarakat luas. Penyedia data harus memahami dengan jelas nilai yang diberikan oleh kontribusi mereka, sementara pengembang agen harus mengintegrasikan layanan mereka dengan lancar untuk meningkatkan fungsionalitas secara keseluruhan. Ekosistem seperti itu harus diatur oleh masyarakat, yang memastikan keadilan, keterbukaan, dan inovasi berkelanjutan yang didorong oleh kontribusi dan kolaborasi kolektif.

Ngomong-ngomong, ada lebih dari 15 agen yang hadir di Sentient Chat!

Ishan Pandey: Ke depannya, apa yang akan dilakukan Sentient dalam hal inovasi teknis? Bagaimana rencana Anda untuk mengembangkan Reasoning Agent dan memperluas ekosistem AGI terbuka?


Himanshu Tyagi: Kami melihat masa depan di mana AI menjadi perantara antara semua indra manusia, informasi global, dan jaringan sosial. Visi Sentient adalah memastikan bahwa AI ini setia kepada kita. Tujuan tunggal ini mendorong semua pengembangan kami. Untuk agen penalaran, kami ingin memastikan bahwa pengembang mendapatkan akses ke model yang kemampuan dan keterampilan penalarannya selaras dengan minat atau kasus penggunaan mereka.


Misalnya, jika Anda membangun agen berdaulat yang dapat mengendalikan dompet, model yang mendasarinya harus memiliki kemampuan penalaran untuk memastikan bahwa pelaku jahat tidak dapat memanipulasi perintah dan mencuri dana. Ini adalah penyelarasan – kita akan membangun model yang selaras tersebut. Setiap pengembang yang membangun ekosistem Open AGI harus memiliki opsi untuk menggunakan model AI yang akan loyal terhadap aplikasi atau pengguna mereka. Sentient Chat adalah penawaran kolektif dari semua agen tersebut yang dibangun di atas Loyal AI.


Jangan lupa like dan bagikan ceritanya!

Pengungkapan Kepentingan Tertentu: Penulis ini adalah kontributor independen yang menerbitkan melalui program blog bisnis HackerNoon telah meninjau laporan tersebut untuk mengetahui kualitasnya, tetapi klaim di sini adalah milik penulis. #DYO


Trending Topics

blockchaincryptocurrencyhackernoon-top-storyprogrammingsoftware-developmenttechnologystartuphackernoon-booksBitcoinbooks