Algoritmeja on kaikkialla ympärillämme, mutta voidaanko niiden luottaa hallitsevan meitä?

"Algokratia", "algoritmin mukainen hallinto" tai "algoritminen sääntely" ei ole tarkkaan määritelty tai selkeä käsite. Voimme kuitenkin tiivistää sen näin: algoritmit + hallinto (jonkinlaiset lait tai säännöt). Tässä mielessä voimme puhua algokratiasta, kun jonkin tyyppinen algoritmipohjainen järjestelmä, olipa kyseessä älykäs sopimus, tekoäly (AI) tai mikä tahansa muu, hallitsee kokonaan tai osittain jonkin alustan, projektin, yrityksen tai laitoksen päätöksentekoprosesseja.

Se ei ole juurikaan sama asia kuin sähköinen hallinto (digitaalisia työkaluja käyttävät hallitukset), ja se aiheuttaa omat mahdolliset ongelmansa. Algoritmi on enemmän kuin pelkkä digitaalinen sovellus; se on jäsennelty joukko tarkkoja ohjeita, jotka on suunniteltu ratkaisemaan monimutkaisia ongelmia – samalla kun niillä on mahdollisuus luoda uusia. Esimerkiksi Daniel Suarezin romaanissa Daemon (2006) voimme nähdä, kuinka algoritmi valloittaa maailman salaa ja jopa murhaa ihmisiä sen luojan kuoltua.

Emme ole saavuttaneet niin dystopista tasoa omassa maailmassamme, mutta saatamme rakentaa polkua sille. Yksityishenkilöt, yritykset ja hallitukset käyttävät jo algoritmeja päätöksentekoon. Ja sitten tärkeitä päätöksiä.

Algoritmit toiminnassa

Jos olet miettinyt: kyllä, kryptovaluutat toimivat algoritmien kanssa. Älykkäät sopimukset toimivat algoritmien kanssa, ja kokonaiset kryptoverkot rakennetaan algoritmien varaan. He käyttävät näitä monimutkaisia, matemaattisia ohjeita korvatakseen kalliit tai epäluotettavat ihmisvälittäjät transaktioiden vahvistamisessa. Algoritmit auttavat myös ihmisiä tekemään yleisiä päätöksiä alustoistaan tarjoamalla heille infrastruktuurin äänestää ( ketjun hallinta kryptoverkoissa). Tämä on vain muutama esimerkki siitä, mitä algoritmit tekevät, mutta se ei ole kaikkea muuta, mitä ne voivat tehdä.

Vuonna 2017 Durhamin (Iso-Britannian) poliisi esitteli Harm Assessment Risk Toolin (HART), tekoälyjärjestelmän, joka ennustaa epäillyn uusintarikoksen todennäköisyyttä. Se luokitellaan henkilöt riskiluokkiin, mikä auttoi päättämään, olivatko he vangittuna vai olivatko he kuntoutuskelpoisia. Samanlaisia ennakoivia poliisimenetelmiä, jotka usein perustuvat koneoppimiseen ja data-analyysiin, käytetään Yhdysvalloissa ja Kiinassa.

Älykkäät kaupungit tarjoavat toisen reaalimaailman algoritmisen hallinnan sovelluksen. Tekoälyllä toimiva infrastruktuuri, kuten älykäs katuvalaistus ja automatisoidut liikennejärjestelmät, optimoi resurssien käytön. Projektit, kuten futuristinen kaupunki "The Line" Saudi-Arabiassa, suunnittelevat tekoälyn integroimista ennakoiviin palveluihin. Hallitukset ovat myös ottamassa tekoälyä mukaan päätöksentekoon verotarkastusten automatisoinnista sosiaalipalvelujen ennakoivien mallien käyttöön. Kiinassa ja Virossa testatut tekoälytuomarit pystyvät käsittelemään pieniä oikeudellisia riita-asioita, kun taas ennakoivat algoritmit auttavat tuomioistuimessa. Koulutus näkee samanlaista automaatiota alustoilla, kuten Knewton, joka säätää oppimateriaalia oppilaiden suoritusten perusteella.

Kielimallit, kuten ChatGPT tai DeepSeek, perustuvat algoritmeihin. Google-haku käyttää algoritmeja tulosten luokitteluun. YouTube, Netflix ja Spotify käyttävät algoritmeja yksilöllisen sisällön ehdottamiseen, ja Amazon mukauttaa ostoehdotuksia. Algoritmit ovat hyödyllisiä, ja olemme jo niiden ympäröimänä.

Dystopiset algoritmit

Algoritmit lisäävät tehokkuutta ja vähentävät ihmisten osallistumista, mutta niistä voi tulla myös dystooppisia. Yksi suuri huolenaihe on mitä Jevgeni Morozov "Näkymättömäksi piikkilangaksi" kutsutaan järjestelmäksi, jossa algoritmit ohjaavat hienovaraisesti valintoja ja rajoittavat älyllistä ja sosiaalista kasvua ihmisten huomaamatta sitä. Nämä järjestelmät analysoivat henkilökohtaisia tietoja käyttäytymisen ennustamiseksi ja kannustavat ihmisiä tiettyihin toimiin ja rajoittavat altistumista vaihtoehtoisille ideoille tai mahdollisuuksille.

Koska rajoitukset eivät ole yksiselitteisiä, ihmiset olettavat toimivansa vapaasti, vaikka näkymätön voimat ovatkin huolellisesti kuratoineet heidän vaihtoehtojaan. Tämä hiljainen hallinta voi heikentää vapautta vähentämällä kriittistä ajattelua ja vahvistamalla olemassa olevia tapoja itsenäisen päätöksenteon edistämisen sijaan. Toisin sanoen ihmiset noudattavat mielettömästi algoritmin ehdotuksia, tietämättä, miten algoritmi toimii, tietämättä, että heitä saatetaan manipuloida, mutta pelkäävät valittavansa vaihtoehtoisia polkuja, jotka voivat vahingoittaa heitä.

Läpinäkymättömyys Näistä päätöksentekojärjestelmistä on todellakin toinen kiireellinen kysymys. Monet algoritmit toimivat mustina laatikoina ja tekevät kriittisiä valintoja ilman selkeitä selityksiä. Tämä läpinäkyvyyden puute on vaarallista, varsinkin kun algoritmeja opetetaan puolueellisella tiedolla. Jos algoritmi heijastaa tietämättään historiallista epätasa-arvoa, se voi jatkaa syrjintää ja esittää päätöksensä objektiivisina.

Esimerkiksi ennakoivia poliisityökaluja on arvosteltu syrjäytyneiden yhteisöjen epäoikeudenmukaisesta kohdistamisesta, ja tekoälyyn perustuvat luottopisteytysjärjestelmät ovat asettaneet tiettyjä ryhmiä suhteettoman epäedulliseen asemaan. Kun nämä työkalut muokkaavat taloudellista saatavuutta, lainvalvontaa ja työllisyyttä, puolueellisen automaation riskit tulevat merkittäviksi.

Vähän huonoa historiaa

Tosimaailman esimerkit havainnollistavat haittoja, joita huonosti suunnitellut algoritmit voivat aiheuttaa. Vuonna 2018 Alankomaiden hallitus otti käyttöön Algoritminen järjestelmä SyRI tunnistaa mahdolliset hyvinvointihuijarit ja ilmoittaa tuhansia ihmisiä tutkittavaksi ilman selkeää perustetta. Julkinen vastareaktio johti järjestelmän sulkemiseen vuonna 2020 ihmisoikeusrikkomusten vuoksi.

Vastaavasti vuonna 2021 Yhdysvalloissa ATLAS-ohjelmisto käytettiin arvioida maahanmuuttohakemuksia, herättäen kritiikkiä sen läpinäkymättömistä ja mahdollisesti syrjivistä päätöksistä ja sen perimmäisestä tavoitteesta denaturalisoida kansalaisia. Isossa-Britanniassa algoritmi määrätyt opiskelijan kokeen arvosanat vuonna 2020 suosimalla varakkaampien koulujen oppilaita samalla kun rangaistaan muita. Laajat protestit pakottivat hallituksen kumoamaan päätöksen, mikä osoittaa, kuinka valvomaton algoritminen ohjaus voi vaikuttaa suoraan elämään.

Algoritmit voivat virtaviivaistaa päätöksentekoa, mutta niiden väärinkäyttö voi juurruttaa systeemisiä ongelmia, rajoittaa vapautta ja heikentää luottamusta. Ilman avoimuutta, vastuullisuutta ja eettistä valvontaa keskitetyistä algoritmeista on vaarassa tulla hallinnan työkaluja vaikutusvallan lisäämisen sijaan.

Hajautettu oikeus

Ainakin tähän mennessä voimme sanoa, että tyrannillisimmat algoritmit tulevat keskitetystä maailmasta. Se on aina keskuspuolue (yritys tai hallitus), joka hallitsee koko asiaa saavuttaakseen omat kyseenalaiset tarkoituksensa tai sotkee asioita pelkän huolimattomuuden vuoksi. Onneksi algoritmeja voidaan edelleen käyttää vapauden ja oikeuden saavuttamiseen, varsinkin jos ne ovat hajautettuja. Kuten saatat arvata, useimmat salausalgoritmit ovat avoimen lähdekoodin ja hajautettuja, ja ne ovat kaikkien tarkastettavissa ja käytettävissä. Ja meillä on jo joitain algoritmisia järjestelmiä hajautettua oikeutta varten.

Esimerkiksi hajautetun hallinnon avainelementti on DAO (Decentralized Autonomous Organisation), joka toimii älykkäillä sopimuksilla eli itsetoimivilla sopimuksilla. DAO:t antavat jäsenille mahdollisuuden osallistua päätöksentekoon äänestämällä, mikä varmistaa, että määräysvalta jakautuu osallistujien kesken keskusyksikön sijaan. Tämä on eräänlainen ketjun hallinta, jossa säännöt ja päätökset toteutetaan DLT-varmennettujen prosessien kautta, ja se auttaa ylläpitämään läpinäkyvyyttä ja turvallisuutta samalla kun estetään voimakkaiden henkilöiden tai organisaatioiden manipulointi.

Hajautettu oikeus pyrkii ratkaisemaan riidat oikeudenmukaisesti ja tehokkaasti välttäen samalla keskitetyn valvonnan riskejä. Perinteiset tuomioistuimet luottavat ihmisten harkintaan, mutta hajautetut oikeusjärjestelmät käyttävät kryptotaloudellisia kannustimia puolueettomuuden varmistamiseksi. Osallistujia palkitaan konsensuksen mukaisuudesta, jonka oletetaan olevan oikeudenmukaista päätöksentekoa. Tämä menetelmä eliminoi luottamuksen luottamukseen ja käyttää sen sijaan kannustimia oikeudenmukaisten tulosten varmistamiseksi.

Lisäksi hajautettu oikeus on suunniteltu läpinäkyväksi, ja säännöt ja päätöksentekoprosessit ovat avoimesti saatavilla verkossa. Tämä takaa ennustettavuuden, johdonmukaisuuden ja vastustuskyvyn harhaan tai korruptioon.

Algokratia hyvään

Sopiva algoritminen verkosto oikeudenmukaisempien oikeusjärjestelmien rakentamiseen on Obyte , täysin hajautettu pääkirjatekniikka (DLT), joka poistaa välittäjät, kuten kaivostyöläiset ja "validaattorit" . Obyte mahdollistaa myös ketjun hallinnan, jolloin sen yhteisö voi tehdä keskeisiä päätöksiä kollektiivisesti äänestysmekanismien kautta. Se tukee myös älykkäitä sopimuksia, jotka automatisoivat tapahtumat ja sopimukset ilman keskusviranomaista.

Lisäksi Obyte tarjoaa sopimukset välimiesoikeuden kanssa , jonka avulla osapuolet voivat tehdä sopimuksia, joissa riidat voidaan ratkaista käyttämällä älykkäiden sopimusten lisäksi ammattimaisia välimiehiä ArbStore . Nämä ominaisuudet varmistavat, että liiketoimet ja hallinto pysyvät läpinäkyvinä, oikeudenmukaisina ja ulkoisen valvonnan vastustuskykyisinä, mikä vahvistaa sekä hallinnon että oikeuden hajauttamisen periaatteita. Se on myös loistava esimerkki siitä, kuinka algokratiaa käytetään hyväksi!

Suositellut vektorikuvat tekijältä vector4stock / Freepik