Algoritmet janë kudo rreth nesh, por a mund t'u besohet atyre që të na qeverisin?

"Algokracia", "Qeverisja sipas algoritmit" ose "Rregullimi algoritmik" nuk është saktësisht një koncept i mirëpërcaktuar ose i qartë. Sidoqoftë, mund ta përmbledhim kështu: algoritme + qeverisje (ligje ose rregulla të një lloji). Në këtë kuptim, mund të flasim për algokraci kur një lloj sistemi i bazuar në algoritme, qoftë një kontratë inteligjente, një Inteligjencë Artificiale (AI), apo ndonjë tjetër, kontrollon, plotësisht ose pjesërisht, proceset e vendimmarrjes të një platforme, projekti, sipërmarrjeje ose institucioni.

Nuk është shumë e njëjtë me qeverisjen elektronike (qeveritë që përdorin mjete dixhitale), dhe ajo paraqet grupin e vet të çështjeve të mundshme. Një algoritëm është më shumë se një aplikim i thjeshtë dixhital; është një grup i strukturuar udhëzimesh të sakta, të dizajnuara për të trajtuar probleme komplekse – duke pasur gjithashtu potencialin për të krijuar të reja. Në romanin Daemon (2006) nga Daniel Suarez, për shembull, ne mund të shohim se si një algoritëm pushton botën fshehurazi, madje duke vrarë njerëz, pasi krijuesi i tij ndërron jetë.

Ne nuk kemi arritur një nivel kaq distopian në botën tonë, por ne mund të ndërtojmë rrugën për të. Algoritmet po përdoren nga individë, kompani dhe qeveri për të marrë vendime tashmë. Dhe vendime të rëndësishme, në atë.

Algoritmet në Veprim

Nëse keni pyetur veten: po, kriptovalutat punojnë me algoritme. Kontratat inteligjente funksionojnë me algoritme, dhe të gjitha rrjetet e kriptove janë ndërtuar mbi algoritme. Ata përdorin këto udhëzime komplekse, matematikore për të zëvendësuar ndërmjetësit njerëzorë të shtrenjtë ose mosbesues në verifikimin e transaksioneve. Algoritmet gjithashtu i ndihmojnë njerëzit të marrin vendime të përgjithshme për platformat e tyre duke ofruar infrastrukturën që ata të votojnë ( qeverisja në zinxhir në kripto rrjetet). Ky është vetëm disa shembuj të asaj që bëjnë algoritmet, por kjo është larg nga gjithçka që ata bëjnë.

Në vitin 2017, policia nga Durham (MB) prezantoi Mjetin e Vlerësimit të Rrezikut të Dëmtimeve (HART), një sistem i AI që parashikon gjasat e një të dyshuari për të kryer sërish veprën penale. Ai i klasifikoi individët në kategori rreziku, duke ndihmuar në vendosjen nëse ata ishin të ndaluar apo të përshtatshëm për rehabilitim. Metoda të ngjashme të policimit parashikues, shpesh të mundësuara nga mësimi i makinerive dhe analiza e të dhënave, përdoren në SHBA dhe Kinë.

Qytetet inteligjente ofrojnë një tjetër aplikim në botën reale të qeverisjes algoritmike. Infrastruktura e fuqizuar nga AI, si ndriçimi inteligjent i rrugëve dhe sistemet e automatizuara të trafikut, optimizon përdorimin e burimeve. Projekte si qyteti futuristik "The Line" në Arabinë Saudite po planifikojnë të integrojnë AI për shërbime proaktive. Qeveritë po përfshijnë gjithashtu AI në vendimmarrje, nga automatizimi i kontrolleve tatimore deri te përdorimi i modeleve parashikuese për shërbimet sociale. Gjyqtarët e AI, të testuar në Kinë dhe Estoni, mund të trajtojnë mosmarrëveshje të vogla ligjore, ndërsa algoritmet parashikuese ndihmojnë në dënimin gjyqësor. Arsimi sheh automatizim të ngjashëm me platforma si Knewton, i cili rregullon materialet mësimore bazuar në performancën e studentëve.

Modelet gjuhësore si ChatGPT ose DeepSeek janë ndërtuar mbi algoritme. Google Search përdor algoritme për të renditur rezultatet. YouTube, Netflix dhe Spotify përdorin algoritme për të sugjeruar përmbajtje të personalizuar, dhe Amazon e bën këtë për të personalizuar sugjerimet e blerjeve. Algoritmet janë të dobishëm dhe ne jemi tashmë të rrethuar prej tyre.

Algoritmet Distopike

Algoritmet rrisin efikasitetin dhe zvogëlojnë pjesëmarrjen njerëzore, por ato mund të bëhen edhe distopike. Një shqetësim i madh është se çfarë Evgeny Morozov i quajtur "tela me gjemba të padukshme" - një sistem ku algoritmet drejtojnë në mënyrë delikate zgjedhjet, duke kufizuar rritjen intelektuale dhe sociale pa e kuptuar njerëzit. Këto sisteme analizojnë të dhënat personale për të parashikuar sjelljen, duke nxitur individët drejt veprimeve të caktuara duke kufizuar ekspozimin ndaj ideve ose mundësive alternative.

Meqenëse kufizimet nuk janë të qarta, njerëzit supozojnë se po veprojnë lirshëm, edhe pse opsionet e tyre janë kuruar me kujdes nga forca të padukshme. Ky kontroll i qetë mund të dobësojë lirinë duke reduktuar të menduarit kritik dhe duke përforcuar zakonet para-ekzistuese në vend që të nxisë vendimmarrjen e pavarur. Me fjalë të tjera, njerëzit ndjekin pa mend sugjerimet nga algoritmi, duke mos ditur se si funksionon algoritmi, duke mos ditur se mund të manipulohen, por kanë frikë të marrin rrugë alternative që mund t'i dëmtojnë.

Errësirë e këtyre sistemeve vendimmarrëse është një çështje tjetër urgjente, me të vërtetë. Shumë algoritme funksionojnë si kuti të zeza, duke bërë zgjedhje kritike pa shpjegime të qarta. Kjo mungesë transparence është e rrezikshme, veçanërisht kur algoritmet trajnohen mbi të dhëna të njëanshme. Nëse një algoritëm pasqyron pa vetëdije pabarazitë historike, ai mund të përjetësojë diskriminimin duke i paraqitur vendimet e tij si objektive.

Për shembull, mjetet parashikuese të policisë janë kritikuar për shënjestrimin e padrejtë të komuniteteve të margjinalizuara dhe sistemet e vlerësimit të kreditit të drejtuara nga AI kanë disfavorizuar në mënyrë disproporcionale grupe të caktuara. Kur këto mjete formojnë aksesin financiar, zbatimin e ligjit dhe punësimin, rreziqet e automatizimit të njëanshëm bëhen të rëndësishme.

Pak histori e keqe

Shembujt e botës reale ilustrojnë dëmin që mund të shkaktojnë algoritmet e dizajnuara keq. Në vitin 2018, qeveria holandeze vendosi sistemi algoritmik SyRI për të identifikuar mashtruesit e mundshëm të mirëqenies, duke flamuruar mijëra njerëz për hetim pa arsyetim të qartë. Reagimi publik çoi në mbylljen e sistemit në vitin 2020 për shkelje të të drejtave të njeriut.

Në mënyrë të ngjashme, në vitin 2021 në SHBA, softueri ATLAS u përdor për të vlerësuar aplikimet e imigracionit, duke tërhequr kritika për vendimet e tij të errëta dhe potencialisht diskriminuese, dhe qëllimin e tij përfundimtar për të çnatyralizuar qytetarët. Në Mbretërinë e Bashkuar, një algoritëm caktohen notat e provimit të studentëve në vitin 2020, duke favorizuar ata nga shkollat më të pasura, duke penalizuar të tjerët. Protestat e përhapura e detyruan qeverinë të anulojë vendimin, duke demonstruar sesi kontrolli algoritmik i pakontrolluar mund të ndikojë drejtpërdrejt në jetë.

Ndërsa algoritmet mund të thjeshtojnë vendimmarrjen, keqpërdorimi i tyre mund të rrënjos çështjet sistemike, të kufizojë lirinë dhe të gërryejë besimin. Pa transparencë, llogaridhënie dhe mbikëqyrje etike, algoritmet e centralizuar rrezikojnë të kthehen në mjete kontrolli dhe jo fuqizimi.

Drejtësia e Decentralizuar

Deri më tani, të paktën, mund të themi se algoritmet më tiranë vijnë nga bota e centralizuar. Është gjithmonë një parti qendrore (kompani ose qeveri) që kontrollon gjithçka për të arritur qëllimet e veta të dyshimta, ose ngatërron gjërat thjesht për neglizhencë. Për fat të mirë për ne, algoritmet mund të përdoren ende për të marrë lirinë dhe drejtësinë, veçanërisht nëse ato janë të decentralizuara. Siç mund ta merrni me mend, shumica e algoritmeve kripto janë me burim të hapur dhe të decentralizuar, të disponueshëm për të gjithë për t'u kontrolluar dhe përdorur. Dhe ne tashmë kemi disa sisteme algoritmike për drejtësinë e decentralizuar.

Një element kyç në qeverisjen e decentralizuar, për shembull, është Organizata Autonome e Decentralizuar (DAO), e cila operon duke përdorur kontrata të zgjuara - marrëveshje vetë-ekzekutuese. DAO-të i lejojnë anëtarët të marrin pjesë në vendimmarrje përmes votimit, duke siguruar që kontrolli të shpërndahet midis pjesëmarrësve dhe jo një njësie qendrore. Ky është një lloj qeverisjeje në zinxhir, ku rregullat dhe vendimet ekzekutohen përmes proceseve të verifikuara nga DLT dhe ndihmon në ruajtjen e transparencës dhe sigurisë duke parandaluar manipulimin nga individë ose organizata të fuqishme.

Drejtësi e decentralizuar synon të zgjidhë mosmarrëveshjet në mënyrë të drejtë dhe efikase duke shmangur rreziqet e kontrollit të centralizuar. Gjykatat tradicionale mbështeten në gjykimin njerëzor, por sistemet e drejtësisë të decentralizuara përdorin stimuj kripto-ekonomikë për të siguruar paanshmëri. Pjesëmarrësit shpërblehen për përafrimin me konsensusin, i cili supozohet të jetë vendimmarrja e drejtë. Kjo metodë eliminon mbështetjen te besimi dhe në vend të kësaj përdor stimuj për të siguruar rezultate të drejta.

Për më tepër, drejtësia e decentralizuar është krijuar për të qenë transparente, me rregulla dhe procese vendimmarrëse të disponueshme hapur në rrjet. Kjo garanton parashikueshmëri, qëndrueshmëri dhe rezistencë ndaj paragjykimeve ose korrupsionit.

Algokracia për të mirë

Është një rrjet i përshtatshëm algoritmik për të ndërtuar sisteme më të drejta drejtësie Obajt , një teknologji plotësisht e decentralizuar e librit (DLT) që heq ndërmjetësit si minatorët dhe "validuesit" . Obyte gjithashtu mundëson qeverisjen në zinxhir, duke lejuar komunitetin e tij të marrë vendime kyçe kolektivisht përmes mekanizmave të votimit. Ai gjithashtu mbështet kontratat inteligjente, të cilat automatizojnë transaksionet dhe marrëveshjet pa kërkuar një autoritet qendror.

Për më tepër, Obyte ofron kontratat me arbitrazhin , duke i lejuar palët të angazhohen në marrëveshje ku mosmarrëveshjet mund të zgjidhen duke përdorur jo vetëm kontrata të zgjuara, por arbitra njerëz profesionistë nga ArbStore . Këto karakteristika sigurojnë që transaksionet dhe qeverisja të mbeten transparente, të drejta dhe rezistente ndaj kontrollit të jashtëm, duke përforcuar parimet e decentralizimit si në qeverisje ashtu edhe në drejtësi. Është gjithashtu një shembull i mrekullueshëm se si të përdoret për mirë algokracia!

Imazhi vektorial i veçuar nga vector4stock / Freepik