Algoritmai yra visur aplink mus, bet ar jie gali mus valdyti?

„Algokratija“, „Valdymas pagal algoritmą“ arba „Algoritminis reguliavimas“ nėra tiksliai apibrėžta ar aiški sąvoka. Tačiau galime apibendrinti taip: algoritmai + valdymas (įstatymai ar tam tikros rūšies taisyklės). Šia prasme galime kalbėti apie algokratiją, kai tam tikro tipo algoritmais pagrįsta sistema, ar tai būtų išmanioji sutartis, dirbtinis intelektas (AI), ar bet kuri kita, visiškai ar iš dalies kontroliuoja tam tikros platformos, projekto, įmonės ar institucijos sprendimų priėmimo procesus.

Tai labai skiriasi nuo e-valdžios (valdžios, naudojančios skaitmenines priemones), ir kelia tam tikrų galimų problemų. Algoritmas yra daugiau nei paprasta skaitmeninė programa; tai struktūrizuotas tikslių instrukcijų rinkinys, skirtas sudėtingoms problemoms spręsti, kartu galintis kurti naujas. Pavyzdžiui, Danielio Suarezo romane „Daemon“ (2006) galime pamatyti, kaip algoritmas slapta užvaldo pasaulį, net žudo žmones, po jo kūrėjo mirties.

Savo pasaulyje nesame pasiekę tokio distopinio lygio, bet galbūt tiesiame tam kelią. Priimdami sprendimus, asmenys, įmonės ir vyriausybės jau naudoja algoritmus. Ir tuo pačiu svarbūs sprendimai.

Veikimo algoritmai

Jei susimąstėte: taip, kriptovaliutos veikia su algoritmais. Išmaniosios sutartys veikia su algoritmais, o ištisi kriptovaliutų tinklai yra sukurti remiantis algoritmais. Jie naudoja šias sudėtingas matematines instrukcijas, kad pakeistų brangius ar nepasitikinčius tarpininkus tikrinant sandorius. Algoritmai taip pat padeda žmonėms priimti bendrus sprendimus dėl savo platformų, suteikdami jiems balsavimo infrastruktūrą ( valdymas tinkle kriptovaliutų tinkluose). Tai tik keli pavyzdžiai, ką veikia algoritmai, bet tai toli gražu ne viskas, ką jie daro.

2017 m. Durhamo (JK) policija pristatė Žalos vertinimo rizikos įrankį (HART), AI sistemą, kuri numato įtariamojo pakartotinio nusikaltimo tikimybę. Jame asmenys buvo suskirstyti į rizikos kategorijas, padedantys nuspręsti, ar jie sulaikyti, ar tinkami reabilitacijai. Panašūs nuspėjamosios policijos metodai, dažnai paremti mašininiu mokymusi ir duomenų analize, naudojami JAV ir Kinijoje.

Išmanieji miestai yra dar vienas realaus algoritminio valdymo pritaikymas. Dirbtinio intelekto valdoma infrastruktūra, pvz., išmanusis gatvių apšvietimas ir automatizuotos eismo sistemos, optimizuoja išteklių naudojimą. Tokiuose projektuose kaip futuristinis miestas „The Line“ Saudo Arabijoje planuoja integruoti dirbtinį intelektą aktyvioms paslaugoms. Vyriausybės taip pat įtraukia dirbtinį intelektą į sprendimų priėmimą – nuo mokesčių audito automatizavimo iki socialinių paslaugų prognozavimo modelių naudojimo. AI teisėjai, išbandyti Kinijoje ir Estijoje, gali nagrinėti nedidelius teisinius ginčus, o nuspėjamieji algoritmai padeda priimti teismo bausmes. Švietimas mato panašų automatizavimą su tokiomis platformomis kaip „Knewton“, kuri koreguoja mokymosi medžiagą pagal mokinių rezultatus.

Kalbos modeliai, tokie kaip „ChatGPT“ ar „DeepSeek“, yra sukurti remiantis algoritmais. „Google“ paieška naudoja algoritmus rezultatams reitinguoti. „YouTube“, „Netflix“ ir „Spotify“ naudoja algoritmus, kad pasiūlytų suasmenintą turinį, o „Amazon“ tai daro, kad pritaikytų pirkimo pasiūlymus. Algoritmai yra naudingi, ir mes jau esame jų apsupti.

Distopiniai algoritmai

Algoritmai padidina efektyvumą ir sumažina žmonių dalyvavimą, tačiau jie taip pat gali tapti distopiniais. Vienas iš pagrindinių rūpesčių yra tai, kas Jevgenijus Morozovas vadinama „nematoma spygliuota viela“ – sistema, kurioje algoritmai subtiliai vadovauja pasirinkimui, ribodami intelektinį ir socialinį augimą žmonėms to nesuvokdami. Šios sistemos analizuoja asmens duomenis, kad nuspėtų elgesį, paskatindamos asmenis imtis tam tikrų veiksmų, tuo pačiu apribodamos alternatyvių idėjų ar galimybių poveikį.

Kadangi suvaržymai nėra aiškūs, žmonės mano, kad elgiasi laisvai, nors jų galimybes kruopščiai kuravo nematomos jėgos. Ši tyli kontrolė gali susilpninti laisvę, sumažindama kritinį mąstymą ir sustiprindama jau esamus įpročius, užuot skatinusi savarankišką sprendimų priėmimą. Kitaip tariant, žmonės be proto seka algoritmo pasiūlymus, nežinodami, kaip algoritmas veikia, nežinodami, kad jais gali būti manipuliuojama, bet bijo pasirinkti alternatyvius kelius, kurie gali jiems pakenkti.

Neskaidrumas Šių sprendimų priėmimo sistemų problema iš tikrųjų yra dar viena neatidėliotina problema. Daugelis algoritmų veikia kaip juodosios dėžės, todėl priimami svarbūs sprendimai be aiškių paaiškinimų. Šis skaidrumo trūkumas yra pavojingas, ypač kai algoritmai mokomi remiantis šališkais duomenimis. Jei algoritmas nesąmoningai atspindi istorines nelygybes, jis gali tęsti diskriminaciją, pateikdamas savo sprendimus kaip objektyvius.

Pavyzdžiui, nuspėjamosios policijos priemonės buvo kritikuojamos dėl nesąžiningo taikymo marginalizuotoms bendruomenėms, o dirbtinio intelekto pagrįstos kredito vertinimo sistemos neproporcingai nulėmė tam tikras grupes. Kai šios priemonės formuoja finansines galimybes, teisėsaugą ir užimtumą, šališko automatizavimo rizika tampa didelė.

Kažkokia bloga istorija

Realūs pavyzdžiai iliustruoja, kokią žalą gali sukelti blogai sukurti algoritmai. 2018 metais Nyderlandų vyriausybė dislokavo algoritminė sistema SyRI nustatyti galimus gerovės sukčius, tūkstančius žmonių pažymint tyrimui be aiškaus pagrindo. Dėl visuomenės atsako 2020 m. sistema buvo uždaryta dėl žmogaus teisių pažeidimo.

Panašiai 2021 m. JAV ATLAS programinė įranga buvo naudojamas įvertinti imigracijos prašymus, sulaukiant kritikos dėl neskaidrių ir galimai diskriminuojančių sprendimų ir galutinio tikslo denatūralizuoti piliečius. JK – algoritmas priskirti mokinio egzamino pažymiai 2020 m. teikti pirmenybę turtingesnių mokyklų mokiniams, o kitus bausti. Plačiai paplitę protestai privertė vyriausybę atšaukti sprendimą, parodydami, kaip nekontroliuojama algoritminė kontrolė gali tiesiogiai paveikti gyvenimą.

Nors algoritmai gali supaprastinti sprendimų priėmimą, netinkamas jų naudojimas gali įtvirtinti sistemines problemas, apriboti laisvę ir sumenkinti pasitikėjimą. Be skaidrumo, atskaitomybės ir etinės priežiūros centralizuoti algoritmai gali tapti kontrolės, o ne įgalinimo įrankiais.

Decentralizuotas teisingumas

Bent jau kol kas galime pasakyti, kad patys tironiškiausi algoritmai kilę iš centralizuoto pasaulio. Visada centrinė partija (įmonė ar vyriausybė) kontroliuoja visą reikalą, kad pasiektų savo abejotinus tikslus, arba sujaukia dalykus vien dėl aplaidumo. Mūsų laimei, algoritmai vis dar gali būti naudojami siekiant laisvės ir teisingumo, ypač jei jie decentralizuoti. Kaip galite spėti, dauguma kriptovaliutų algoritmų yra atvirojo kodo ir decentralizuoti, kuriuos gali patikrinti ir naudoti visi. Ir mes jau turime kai kurias algoritmines decentralizuoto teisingumo sistemas.

Pavyzdžiui, pagrindinis decentralizuoto valdymo elementas yra Decentralizuota autonominė organizacija (DAO), kuri veikia naudodama išmaniąsias sutartis – savarankiškai vykdomus susitarimus. DAO leidžia nariams dalyvauti priimant sprendimus balsuojant, užtikrinant, kad kontrolė būtų paskirstyta dalyviams, o ne centrinei institucijai. Tai grandinės valdymo tipas, kai taisyklės ir sprendimai vykdomi naudojant DLT patikrintus procesus ir padeda išlaikyti skaidrumą bei saugumą, tuo pačiu užkertant kelią galingų asmenų ar organizacijų manipuliavimui.

Decentralizuotas teisingumas siekia sąžiningai ir efektyviai spręsti ginčus, išvengiant centralizuotos kontrolės rizikos. Tradiciniai teismai remiasi žmogaus sprendimu, tačiau decentralizuotos teisingumo sistemos nešališkumui užtikrinti naudoja kriptoekonomines paskatas. Dalyviai yra apdovanojami už suderinimą su konsensusu, kuris laikomas sąžiningu sprendimų priėmimu. Šis metodas pašalina pasitikėjimą savimi ir naudoja paskatas teisingiems rezultatams užtikrinti.

Be to, decentralizuotas teisingumas sukurtas taip, kad būtų skaidrus, o taisyklės ir sprendimų priėmimo procesai būtų atviri tinkle. Tai garantuoja nuspėjamumą, nuoseklumą ir atsparumą šališkumui ar korupcijai.

Algokratija gėriui

Tinkamas algoritminis tinklas teisingesnėms teisingumo sistemoms kurti Obaitas , visiškai decentralizuota knygos technologija (DLT), kuri pašalina tarpininkus, pvz., kalnakasius ir „validatorius“ . „Obyte“ taip pat įgalina valdymą grandinėje, leidžiančią jos bendruomenei priimti pagrindinius sprendimus kolektyviai per balsavimo mechanizmus. Ji taip pat palaiko išmaniąsias sutartis, kurios automatizuoja operacijas ir susitarimus nereikalaujant centrinės institucijos.

Be to, „Obyte“ siūlo sutartis su arbitražu , leidžianti šalims sudaryti susitarimus, kuriuose ginčai gali būti sprendžiami naudojant ne tik išmaniąsias sutartis, bet ir profesionalius arbitrus iš ArbStore . Šios savybės užtikrina, kad sandoriai ir valdymas išliktų skaidrūs, sąžiningi ir atsparūs išorės kontrolei, o tai sustiprina decentralizacijos principus tiek valdymo, tiek teisingumo srityse. Tai taip pat puikus pavyzdys, kaip gerai panaudoti algokratiją!

Populiarus vektorinis vaizdas pagal vector4stock / Freepik