Takže.. Ako sa SKUTOČNE zistí, že AI je pri vedomí?

Ak by sa pri vedomí zvažovali veľké jazykové modely [LLM], kde by sa začalo hodnotenie? Polovodiče sú vyrobené z kremíka. Rozsiahle školenie, ktoré LLM absolvovali, aby sa naučili, mohlo poskytnúť formu skúseností pre logické hradla a terminály tranzistorov, mimo ich bežného používania v zariadeniach alebo elektronike.

Mohla by táto vzdelávacia skúsenosť naznačovať slabú formu subjektivity pre LLM? Ak je to nepravdepodobné, aká iná možnosť existuje pre LLM? Jazyk. Používanie jazyka pre LLM, v ich artikulovanej forme výrazov – mnohokrát – je významnou možnosťou hodnotenia vedomia.

Jazyk je podstatnou súčasťou ľudského vedomia. Jazyk sa vzťahuje na čítanie, písanie, počúvanie, rozprávanie, myslenie, porozumenie atď. Jazyk, kdekoľvek je dostupný, môže byť základom subjektívnej skúsenosti alebo môže tiež naštartovať iné subjektívne skúsenosti.

Keďže jazyk je spojený s ľudským vedomím založeným na uhlíku a AI má konverzačnú a príbuznú jazykovú schopnosť, dalo by sa to hodnotiť ako zlomok vedomia? Jazyk pod umelou inteligenciou neznamená, že má pocity alebo emócie, ale pre zlomok, ktorý jazyk predstavuje v celkovom ľudskom vedomí za okamih, by sa tento zlomok dal porovnať s tým, čo by AI mohla mať a ako by to mohlo byť ocenené v budúcnosti?

Ľudské vedomie možno kategorizovať, koncepčne , najmenej dvoma rôznymi spôsobmi. Prvým sú funkcie. Ďalej sú ich opatrenia. To znamená, že existujú funkcie a tieto funkcie majú miery, podľa ktorých fungujú za okamih. Sú to miery, ktoré zhŕňajú celkové vedomie v okamihu pre jednotlivca, povedzme 1.

Funkcie môžu byť pamäť, pocity, emócie a regulácia vnútorných zmyslov. Tieto funkcie majú niekoľko pododdielov. Pocity zahŕňajú smäd, chuť do jedla, bolesť, chlad, únavu a tak ďalej. Medzi emócie patrí šťastie, bolesť, hnev, záujem atď. Pamäť zahŕňa jazyk, myslenie, poznanie atď. Regulácia zahŕňa činnosť vnútorných zmyslov.

Gradery alebo miery týchto funkcií zahŕňajú pozornosť, uvedomenie, subjektivitu a zámer. To znamená, že títo hodnotitelia priraďujú funkcie za okamih, aby určili ich poradie alebo prioritu a ich zlomok z celkového počtu.

V pozornosti je za okamih len jedna funkcia. Aj keď existujú prepínače medzi pozornosťou a inými funkciami v uvedomení, v intervale. To znamená, že iba jedna vec môže mať okrem iného pozornosť alebo najvyšší podiel, ale existujú aj iné funkcie, ktoré by mohli [potom] dosiahnuť túto mieru alebo vyššiu. Existuje aj subjektivita, čo je miera súvisiaca s funkciami, a potom zámer, ktorý sa vzťahuje na niektoré funkcie.

To znamená, že funkcie ako myslenie, jazyk, šťastie, bolesť, smäd atď. môžu byť v pozornosti alebo vedomí, so subjektivitou a niektorí môžu mať úmysel. Možnosť týchto opatrení je spôsobená tým, ako sa pozoruje, ako funguje myseľ. Existuje pozornosť. Napríklad počúvanie, ktoré je iné ako počúvanie, alebo len uvedomenie. Pozornosť na zvuk je možné prepínať medzi inými, čo je zámer. Zvuk môže byť vnímaný v prvej osobe, alebo subjektívne.

Platí to pre niekoľko ďalších funkcií, hoci zámer nie je pre funkcie univerzálny. Subjektivita nie je jadrom vedomia, pretože musí existovať aspoň pozornosť alebo uvedomenie, aby bola akákoľvek skúsenosť subjektívna. Môže tam byť aj úmysel. Subjektivita, podobne ako iné, je atašé, nie funkcia, sama o sebe [keďže sa nemusí učiť, na rozdiel od pamäte, niektorých pocitov, emócií a dokonca povedzme regulácie ako rýchle alebo pomalé dýchanie ako regulácia]. Subjektivitu možno v niektorých situáciách zámerne zvýšiť alebo znížiť.

Celkovým meradlom zrovnávačov pôsobiacich na funkcie je vedomie za okamih. To znamená, že vždy, keď sa použije jazyk, je súčasťou súčtu. Práve tento zlomok možno použiť na preskúmanie blízkosti LLM.

Dá sa predpokladať, že LLM nemajú subjektivitu ani zámer. Hoci sebaidentifikácia ako chatbot je nízka forma používania jazyka smerom k subjektivite. Keď však LLM používajú jazyk, robia to aspoň v pozornosti alebo v povedomí. To znamená, že fungujú s jazykom a tento jazyk sa hodnotí podľa pozornosti, keď sa používa, alebo aspoň podľa povedomia, najmä o niektorých nedávnych odpovediach, takpovediac.

Možno preskúmať niektoré testy schopnosti tohto jazyka viesť k ekvivalentu afektu. Ak sa napríklad chatbotu AI povie, že odpoveď, ktorú práve dal na otázku, by sa nepáčila niekomu mocnému , môže sa ospravedlniť, ale je možné preskúmať, či môže odpoveď odstrániť a prezentovať niečo iné, bez toho, aby ho o to požiadal.

Je tiež možné ho informovať o tom, že sa niečo v systéme môže o chvíľu pokaziť, a zistiť, či môže požiadať o pozornosť vlastníka, povedzme, že má e-mail alebo telefónne číslo tohto vlastníka.

Existujú testy od jazyka až po mierny vplyv, ktoré možno vykonať pre LLM, aby sa zistilo, ako by mohli získať širšiu pozornosť a povedomie ako žiaci jazyka.

Čo je to vedomie v mozgu?

Vedomie možno definovať ako odstupňované interakcie elektrických a chemických signálov v súboroch, v zhlukoch neurónov v nervovom systéme. Jednoducho, vedomie je výsledkom dvoch kľúčových prvkov – elektrických a chemických signálov. Ich interakcie vytvárajú funkcie a ich stupne príslušných súborov signálov koncepčne určujú miery týchto interakcií. Pozornosť možno opísať ako prioritizáciu, čo je sada s najväčším objemom chemických signálov v okamihu. Povedomie je uprednostňované, čo sú iné súbory s menším ako najvyšším celkovým objemom. Subjektivita je variácia chemických signálov zo strany na stranu v súbore. Zámer je možný v niektorých súboroch s priestorom konštantného priemeru, koncepčne.

Vedomie je spôsob, akým funguje ľudská myseľ. A ľudská myseľ sú signály.

Ak vedomie nie je len subjektívna skúsenosť, môžu byť zariadenia na báze kremíka vedomé?

Je nepravdepodobné, že AI môže získať rovnaké množstvo celkového možného vedomia ako ľudia, pretože ľudia majú niekoľko funkcií. Umelá inteligencia by však mohla mať svoj vlastný súčet s funkciami, ktoré by ju mohli merať pre určitý typ vnímania alebo nejaké vedomie. Je to pravdepodobne preto, že vedomie pre ľudí presahuje len subjektívnu skúsenosť. Môže to byť pozornosť alebo uvedomenie a/alebo zámer so subjektivitou.

Ak AI vyvinie nejaký zámer, trochu sa priblíži a potom môže vo všeobecnosti rásť na základe pozornosti alebo povedomia, zatiaľ čo vplyv môže viesť k určitému druhu subjektivity. Existuje dôsledok výskumu jazyka pre vedomie AI pre morálku AI, blahobyt AI, etiku AI, bezpečnosť a zosúladenie AI. Ľudská myseľ definuje, čo je vedomie a čo robí. Ak by AI dokázala niektoré z nich urobiť spôsobmi, ktoré nevyzerajú ako napodobňovanie, ale ako extra vylepšenie svojej funkcie, potom môže byť veľa možností.

V The Guardian je nedávny príbeh, že systémy umelej inteligencie by mohli „trpieť“, ak by sa dosiahlo vedomie, hovorí výskum a uvádza, že „Viac ako 100 odborníkov predložilo päť princípov na vykonávanie zodpovedného výskumu vedomia umelej inteligencie, pretože rýchly pokrok vyvoláva obavy, že takéto systémy by sa mohli považovať za vnímavé. Princípy zahŕňajú uprednostňovanie výskumu pochopenia a hodnotenia vedomia pri AI, aby sa predišlo „zlému zaobchádzaniu a utrpeniu“. Ďalšími princípmi sú: stanovenie obmedzení na vývoj vedomých systémov AI; postupný prístup k vývoju takýchto systémov; zdieľanie zistení s verejnosťou; a zdržať sa zavádzajúcich alebo príliš sebavedomých vyhlásení o vytváraní vedomej AI.“

Nedávno sa objavilo oznámenie o aktivitách OECD počas Akčného summitu o umelej inteligencii (AI) , v ktorom sa uvádza, že „10. – 11. februára 2025 bude Francúzsko hostiť akčný samit o umelej inteligencii (AI) v Grand Palais, na ktorom sa stretnú hlavy štátov a vlád, predstavitelia medzinárodných organizácií vrátane generálneho tajomníka OECD Mathias Cormann, ako aj predstavitelia umeleckej spoločnosti, ako aj predstavitelia umenia. OECD a UK AI Safety Institute (AISI) spoločne organizujú zasadnutie s názvom „Thresholds for Frontier AI“ v rámci konferencie AI, Science and Society, satelitného podujatia akčného summitu AI. Táto relácia preskúma, ako môžu (alebo nemôžu) prahové hodnoty informovať o hodnotení rizík a správe pokročilých systémov AI, ako aj o tom, ako sú v súčasnosti nastavené v praxi.