210 читања

Како резонантниот агент на Sentient ја надмудри конкуренцијата: погледнете одвнатре

од страна на Ishan Pandey9m2025/04/02
Read on Terminal Reader

Премногу долго; Да чита

Химаншу Тјаги од Sentient открива како блокчејнот и вештачката интелигенција се обединуваат во револуција во сопственост на заедницата, поттикнувајќи ги Sentient Chat и Dobby.
featured image - Како резонантниот агент на Sentient ја надмудри конкуренцијата: погледнете одвнатре
Ishan Pandey HackerNoon profile picture
0-item
1-item
2-item


Sentient изработи уникатен пат, комбинирајќи ја блокчејн технологијата со вештачката интелигенција со отворен код за да создаде екосистем во сопственост на заедницата. Со над 1 милион пријавувања на листа на чекање за Sentient Chat за само 24 часа и рекордни 650.000 NFT ковачници за нивниот децентрализиран модел со вештачка интелигенција, Dobby, Sentient ја редефинира иднината на AI.


На чело на оваа револуција е Химаншу Тјаги, ко-основач на Sentient и професор на Индискиот институт за наука, чија експертиза во вештачката интелигенција и блокчејнот ги поттикнува иновациите како што се агентот за расудување и чет-ботот кој се спротивставува на збунетоста. Седнуваме со Химаншу за да ги истражиме техничките предизвици, револуционерните решенија и амбициозната визија зад подемот на Sentient.

Ishan Pandey: Sentient Chat експлодира на сцената со над 1 милион регистрирани на листа на чекање за помалку од 24 часа. Со какви технички предизвици се соочивте при изградбата на платформа за вештачка интелигенција која е и децентрализирана и погодна за потрошувачите?

Химаншу Тјаги: Децентрализацијата е основа за нашата мисија, која се протега многу подалеку од само чувствителен разговор. Ние веруваме дека иднината на вештачката интелигенција мора да биде отворена и водена од заедницата, бидејќи децентрализацијата уникатно го овластува активното учество на заедницата. Оваа филозофија каскадира директно во нашите производи, особено во Sentient Chat.


Со Sentient Chat, нашата цел е да се осигураме дека заедницата навистина чувствува сопственост. Корисниците не се само пасивни потрошувачи; тие се креатори, обликувачи и стјуарди на платформата. Тие имаат целосна контрола - од основниот модел и агенти за вештачка интелигенција, до податоци и управување - што им овозможува да го обликуваат производот прецизно да одговара на нивните различни потреби и случаи на употреба.


Критички, децентрализацијата и употребливоста се зајакнуваат меѓусебно во Sentient Chat. Со овластување на корисниците да ја приспособат и подобрат платформата, секоја иновација развиена од еден корисник или тим станува достапна за пошироката заедница. Овој колективен придонес ја збогатува употребливоста на платформата, постојано поттикнувајќи подобрувања и иновации кои имаат корист за сите вклучени.


На крајот на краиштата, децентрализацијата не го комплицира корисничкото искуство - го подобрува, создавајќи жив екосистем каде колективната креативност и соработка директно се претвораат во помоќна, флексибилна и погодна платформа за корисниците.

Ишан Пандеј: Го позициониравте Sentient Chat како конкурент на Perplexity, овозможен од Dobby, првиот светски модел на вештачка интелигенција во сопственост на заедницата. Можете ли да нè проучите низ техничката иновација зад Dobby и како таа ги поддржува уникатните способности на Sentient Chat?

Химаншу Тјаги: Вештачката интелигенција брзо станува посредник помеѓу информациските мрежи и корисниците, давајќи и значителна моќ да влијае на перспективите на корисниците врз основа на вродени предрасуди. Нашата цел е да ги поттикнеме заедниците со тоа што ќе им овозможиме да ги усогласат моделите со вештачка интелигенција според нивните специфични вредности, со што ќе промовираме разновиден екосистем на модели „лојална вештачка интелигенција“. Додека пристрасноста секогаш ќе постои поради податоците за обуката, корисниците не треба да се ограничуваат на генерализирани модели кои едноставно ги просекуваат мислењата на интернет. Наместо тоа, ги замислуваме корисниците да избираат од широк спектар на модели усогласени со различни вредности на заедницата.


Доби го претставува првиот од таквите модели, експлицитно усогласен со вредностите на крипто заедницата - про-крипто и про-лична слобода. Со Доби, постигнавме три забележителни технички откритија:


  • Ефективно усогласување на вредноста без губење на перформансите: Порамнувањето на моделите со вештачка интелигенција со специфични вредности преку дотерување е познат предизвик, честопати доведува до деградирани перформанси и некохерентни резултати. Со Dobby, ние успешно го дотеравме моделот Llama за да ги прифати специфичните вредности и истовремено да одржува одлични перформанси низ критичните одредници.


  • Човековоцентричен тон и слобода на изразување со безбедност: да се постигне посакуваното усогласување бараше отстранување на постоечките заштитни огради од Лама и нивна внимателно обнова. Изненадувачки, овој процес го подобри тонот на моделот, што резултираше со поприродни и човечки-центрични интеракции. Дури и со опуштени ограничувања, Доби останува безбеден, како што е прикажано со метриката од нашата „Извинете клупа“. Освен тоа, нашите модели Dobby-mini 8B и Dobby 70B покажуваат грануларна контрола врз одредени безбедносни димензии (како што се говор на омраза, финансиски, медицински и правни совети и експлицитна содржина), што ни овозможува прецизни прилагодувања на безбедносниот профил на моделот.


  • Отпечатоци за најраспространетиот модел на сопственост досега: Dobby е моментално најраспространетиот модел, со над 660.000 сопственици. Ова невидено ниво на дистрибуција е олеснето со нашата иновативна технологија за отпечатоци. Отпечатокот на прсти вбризгува уникатни парови со одговор на клучеви во моделот, овозможувајќи цврста проверка на сопственоста. Овие отпечатоци имаат незначително влијание врз севкупните перформанси на моделот и се отпорни на отстранување преку дотерување, спојување на модели или други модификации.


Sentient Chat е нашата платформа за пребарување напојувана со вештачка интелигенција, дизајнирана да ги прикаже и да им обезбеди на корисниците директно искуство на нематеријалниот концепт на Лојална вештачка интелигенција. Оваа платформа ја демонстрира конкурентската предност на екосистемите со отворен код, успешно надминувајќи ги платформите како Perplexity и одговарајќи на одредниците за пребарување на ChatGPT.


Овозможено од Dobby, Sentient Chat илустрира како Лојалната вештачка интелигенција може директно да влијае на информациите доставени до корисниците, прикажувајќи ја содржината концизно и привлечно. Интеграцијата на Dobby во Sentient Chat значително ја подобри ефикасноста и вредноста на забавата на интеракциите за пребарување. Со јасниот, човечки и без бесмислен стил на комуникација на Dobby, корисниците можат брзо и ефективно да пристапат до информациите што ги бараат, нагласувајќи ја посебната предност на платформата во искуствата за пребарување управувани од вештачка интелигенција.

Ishan Pandey: Еден од најинтригантните аспекти на Sentient Chat е неговиот агент за расудување, опремен со алатки како пребарување, калкулатор и размислување. Како го архитектиравте овој агент и кои технички пречки ги надминавте за да го направите расудувањето основна сила?

Химаншу Тјаги: Неодамнешните достигнувања покажаа дека генерирањето на извршна Python-код за повикување алатки дава значителен поттик во перформансите во споредба со конвенционалните пристапи базирани на JSON. Особено, LLM се инхерентно вешти во компресирањето на акциониот простор на задачите користејќи код. Ова природно ја поттикна употребата на код како начин на изразување за нашиот агент за расудување. Понекогаш кодот за запишување на LLM што не се извршува/работи на начин на кој е наменет, ова се поправа со интерпретатор на Python кој проверува дали генерираниот код извршува или дава грешки, ако фрла грешки, тогаш ќе продолжи да го регенерира кодот (со претходните траги на грешка) додека не излезе задоволителен код.


Друго предупредување е дека LLM може да генерира функционален код кој не го прави она што е наменето да го прави (на пр. ја повикува алатката за калкулатор наместо да бара); агентот за расудување е способен да го свари излезот од информациите и да процени дали тие се вклопуваат, на општо ниво, со она што го очекува од конкретниот повик на код/алатка.


Тестиравме два различни типа на агенти во делот Open Reasoning Agent од рамката ODS: Chain-of-Thought со агент ReAct и Chain-of-Code со агентот CodeAct.


Во архитектурата Chain-of-Thought ReAct, агентот следи повторувачка јамка за расудување-акција. Прво, чекорот „Мисли“ му овозможува на агентот внатрешно да расудува, артикулирајќи планови или интерпретирајќи средни резултати на природен јазик. Секогаш кога агентот наидува на несигурност или му недостасуваат критични информации, тој ја повикува алатката „Пребарај“, активно преземајќи надворешни информации од мрежата. За аритметички или пресметковни задачи кои бараат висока прецизност, агентот ја користи алатката „Пресметај“. Така, CoT-ReAct континуирано кружи низ размислување, пребарување и пресметување по потреба, сè додека не дојде до сигурно решение.


Од друга страна, агентот Chain-of-Code или CodeAct користи извршна шифра за извршување на своите задачи за расудување. Првично, агентот размислува преку својата стратегија, слична на CoT-ReAct. Сепак, наместо да се потпира чисто на природен јазик, тој генерира извршна Python код како дел од неговото размислување. Функцијата „Пресметај“ е беспрекорно вградена овде, директно интегрирана во околината за извршување на Python. Ова овозможува точни пресметки и алгоритамско расудување. Како и CoT-ReAct, CodeAct исто така ја користи алатката „Пребарување“ кога се неопходни дополнителни надворешни информации, инкорпорирајќи ги резултатите директно во процесите за генерирање и извршување кодови.


Клучната разлика лежи во тоа како секој агент комуницира со овие алатки. За CoT-ReAct, „Мисли“, „Пребарај“ и „Пресметај“ се јасно одделни дејства експлицитно избрани за време на расудувањето. За CodeAct, додека „Think“ останува експлицитен чекор на планирање, „Calculate“ е инхерентно вграден во самото извршување на кодот, правејќи ги пресметковните задачи интегрални наместо надворешни. „Пребарувањето“ останува слично експлицитно во двата пристапи, обезбедувајќи витален надворешен контекст секогаш кога внатрешното знаење на агентот е недоволно.

Ishan Pandey: Sentient заврши рекордно 650.000 NFT ковачница за Dobby, поврзувајќи ја сопственоста со децентрализиран модел на вештачка интелигенција. Каква техничка инфраструктура изградивте за да се справите со оваа скала и како блокчејн го подобрува аспектот на сопственост на заедницата?


Химаншу Тјаги: Ова не беше технички предизвикувачки проблем - модерните блокчејнови лесно можат да се справат со таков товар. Најинтересниот дел овде е што ова е првпат некој да демонстрира ваква скала на „директна демократија“ во моделското владеење. Во централизираните компании, ова управување го прави мал тим за усогласување кој понекогаш дури и го модифицирал моделот за да одговара на сопствените верувања. Антропик направи неколку едноставни експерименти под името на уставна вештачка интелигенција со околу 1000 луѓе, но ништо блиску до ова отворено владеење по заедница. Сакавме да им ја дадеме оваа моќ на луѓето и блокчејновите се совршени инструменти за тоа. Заедницата на Dobby веќе одлучи каква личност треба да има Dobby, со поводник или откачен (тие избраа откачено пред поводник). Во иднина, сите одлуки за Dobby-unhinged моделот ќе ги носи оваа заедница, која исто така ќе биде наградена како што се зголемува употребата на моделот.


Во иднина, овие сопственички NFT ќе бидат претворени во сопственички токени на нашиот блокчејн што може да се користат за регулирање на усогласувањето и ажурирањата на овој модел. Понатаму, поврзаните отпечатоци од прсти ќе бидат обврзани како корен на Merkle на истиот договор - секој може да го потврди идентитетот на моделот со поставување на нашите прашања за отпечатоци од прст и може да провери дали истите прашања се извршени со договорот за сопственост.

Ишан Пандеј: Вашиот агент за расудување интегрира алатки во реално време и има за цел да се справи со двосмислени, субјективни задачи. Како ова се разликува од постоечките агенти за расудување, како што е Deep Research на OpenAI, и кои нови решенија ги имплементиравте за да ги поместите границите на расудувањето со вештачка интелигенција?


Химаншу Тјаги: Кога ја споредуваме нашата платформа со отворен код со конкурентите од затворен код, примарната конкурентска предност на затворените системи традиционално е нивната технологија. Сепак, платформите како Sentient Chat и Open Data Sources (ODS) ефективно го израмнија полето за игра со демократизирање на знаењето за вештачка интелигенција, правејќи ја нашата рамка целосно отворена за заедницата. Платформите од затворен код, како оние на OpenAI, функционираат како црни кутии; ниту ти, јас, ниту некој друг не можеме целосно да ги разбереме нивните внатрешни процеси.


Спротивно на тоа, нашата отворена рамка поканува континуирани иновации од пошироката заедница, овозможувајќи брзо идентификување и решавање на празнините кои инаку би можеле да останат незабележани. Овој заеднички пристап, отворен влез и отворен излез е клучен за градење на најдобрата можна платформа за пребарување. Нашата крајна визија вклучува овозможување на корисниците да придонесуваат со сопствени извори на податоци и агенти, со што драстично ќе се зајакнат Sentient Chat и ODS преку колективни подобрувања водени од заедницата.

Ишан Пандеј: Ја нагласивте предноста на Sentient Chat во однос на конкурентите како што е Perplexity со неговата интеграција на агенти со вештачка интелигенција од 15+. Какви технички предизвици претставуваше интегрирањето на повеќе агенти во еден чет-бот интерфејс и како ги решивте?

Химаншу Тјаги: Технички, ние се справуваме со многу сложени софтверски и дизајнерски предизвици за да дозволиме широк спектар на агенти да учествуваат во единствено корисничко искуство преку Sentient Chat. Ние, исто така, нудиме многу алатки на овие создавачи на агенти, како што се нашите најсовремени API-и за пребарување на вештачка интелигенција, понудата Sentient Secure Enclave за градење „несоборливи агенти“ итн. Но, повеќе од решавање на овие технички предизвици, најинтересниот дел овде е можноста за сосема нов начин за пристап до знаењето на интернет.


Со децении, Google доминира во пребарувањето, фокусирајќи се првенствено на помагање на корисниците да најдат информации онлајн. Потпирањето на Google на приходите од рекламирање, вкоренето во препораките извори за информации, инхерентно ја ограничува неговата способност за иновации надвор од традиционалното пребарување на информации. Вештачката интелигенција, од друга страна, дава можност да се заобиколи само собирањето информации, овозможувајќи им на корисниците директно да ги извршуваат задачите без потреба од одделни фази на анализа и акција, што е нашата точна конкурентна предност во однос на џинот на Google.


Оваа амбициозна визија бара разновиден екосистем - оној кој интегрира разновидни индексирани извори на податоци со бројни агенти за вештачка интелигенција способни да вршат специјализирани дејства. Клучот за отклучување на овој потенцијал лежи во создавање транспарентна и отворена платформа, активно поттикнувајќи го широкото учество на заедницата. Обезбедувачите на податоци мора јасно да ја разберат вредноста што ја носат нивните придонеси, додека развивачите на агенти мора беспрекорно да ги интегрираат своите услуги за да ја подобрат целокупната функционалност. Таквиот екосистем мора да биде управуван од заедницата, обезбедувајќи правичност, отвореност и постојани иновации поттикнати од колективен придонес и соработка.

Патем, многу повеќе од 15 агенти доаѓаат на Sentient Chat!

Ишан Пандеј: Гледајќи напред, што е следно за Sentient во однос на техничките иновации? Како планирате да го еволуирате агентот за расудување и да го проширите отворениот екосистем AGI?


Химаншу Тјаги: Гледаме иднина каде што вештачката интелигенција станува посредник помеѓу сите човечки сетила, глобалните информации и социјалните мрежи. Визијата на Sentient е да се увери дека оваа вештачка интелигенција ни е лојална. Оваа единствена цел го поттикнува целиот наш развој. За агентите за расудување, сакаме да се погрижиме програмерите да добијат пристап до модели чии способности и вештини за расудување се усогласени со нивните интереси или со случајот на употреба.


На пример, ако градите суверен агент кој може да ги контролира паричниците, основните модели треба да имаат способност за расудување за да се осигураат дека злонамерните актери не можат да манипулираат со барања и да крадат средства. Ова е усогласување - ние ќе градиме такви усогласени модели. Секоја зграда за програмери во екосистемот Open AGI треба да има можност да користи модели со вештачка интелигенција кои ќе бидат лојални на нивната апликација или корисници. Sentient Chat е колективна понуда на сите такви агенти изградени на Loyal AI.


Не заборавајте да ја лајкнете и споделите приказната!

Обелоденување на доделен интерес: Овој автор е независен соработник што објавува преку нашата програма за деловно блогирање . HackerNoon го разгледа извештајот за квалитет, но тврдењата овде му припаѓаат на авторот. #DYO


L O A D I N G
. . . comments & more!

About Author

Ishan Pandey HackerNoon profile picture
Ishan Pandey@ishanpandey
Building and Covering the latest events, insights and views in the AI and Web3 ecosystem.

ВИСЕТЕ ТАГОВИ

ОВОЈ СТАТИЈА БЕШЕ ПРЕТСТАВЕН ВО...

Trending Topics

blockchaincryptocurrencyhackernoon-top-storyprogrammingsoftware-developmenttechnologystartuphackernoon-booksBitcoinbooks