We zijn overal om ons heen met algoritmes, maar kunnen we erop vertrouwen dat ze ons ook besturen?

"Algocratie", "Regering door algoritme" of "Algoritmische regulering" is niet bepaald een goed gedefinieerd of duidelijk concept. We kunnen het echter als volgt samenvatten: algoritmen + governance (wetten of regels van een of andere soort). In deze zin kunnen we spreken van algocratie wanneer een bepaald type op algoritmen gebaseerd systeem, of het nu een smart contract, een Artificial Intelligence (AI) of iets anders is, de besluitvormingsprocessen van een platform, project, onderneming of instelling geheel of gedeeltelijk controleert.

Het is absoluut niet hetzelfde als e-government (overheden die digitale tools gebruiken) en het brengt zijn eigen reeks potentiële problemen met zich mee. Een algoritme is meer dan alleen een eenvoudige digitale applicatie; het is een gestructureerde set van precieze instructies die zijn ontworpen om complexe problemen aan te pakken, terwijl het ook de potentie heeft om nieuwe problemen te creëren. In de roman Daemon (2006) van Daniel Suarez, bijvoorbeeld, kunnen we zien hoe een algoritme in het geheim de wereld overneemt, zelfs mensen vermoordt, nadat zijn maker is overleden.

We hebben in onze eigen wereld nog niet zo'n dystopisch niveau bereikt, maar we zijn misschien wel bezig het pad ernaartoe te bouwen. Algoritmen worden al gebruikt door individuen, bedrijven en overheden om beslissingen te nemen. En belangrijke beslissingen, bovendien.

Algoritmen in actie

Als je je afvraagt: ja, cryptovaluta's werken met algoritmen. Slimme contracten werken met algoritmen en hele cryptonetwerken zijn gebouwd op algoritmen. Ze gebruiken deze complexe, wiskundige instructies om dure of wantrouwende menselijke tussenpersonen te vervangen bij het verifiëren van transacties. Algoritmen helpen mensen ook om algemene beslissingen te nemen over hun platforms door hen de infrastructuur te bieden om te stemmen ( on-chain-bestuur in cryptonetwerken). Dit zijn slechts een paar voorbeelden van wat algoritmes doen, maar dat is nog lang niet alles wat ze doen.

In 2017 introduceerde de politie van Durham (VK) de Harm Assessment Risk Tool (HART), een AI-systeem dat de waarschijnlijkheid voorspelt dat een verdachte opnieuw een misdrijf pleegt. Het classificeerde personen in risicocategorieën, wat hielp bij het bepalen of ze werden vastgehouden of in aanmerking kwamen voor rehabilitatie. Soortgelijke voorspellende politiemethoden, vaak aangestuurd door machine learning en data-analyse, worden gebruikt in de VS en China.

Slimme steden bieden een andere real-world toepassing van algoritmisch bestuur. AI-aangedreven infrastructuur, zoals intelligente straatverlichting en geautomatiseerde verkeerssystemen, optimaliseert het gebruik van hulpbronnen. Projecten zoals de futuristische stad "The Line" in Saoedi-Arabië zijn van plan om AI te integreren voor proactieve diensten. Overheden integreren AI ook in besluitvorming, van het automatiseren van belastingcontroles tot het gebruik van voorspellende modellen voor sociale diensten. AI-rechters, getest in China en Estland, kunnen kleine juridische geschillen behandelen, terwijl voorspellende algoritmen helpen bij gerechtelijke veroordelingen. Onderwijs ziet soortgelijke automatisering met platforms zoals Knewton, dat leermaterialen aanpast op basis van de prestaties van studenten.

Taalmodellen zoals ChatGPT of DeepSeek zijn gebaseerd op algoritmes. Google Search gebruikt algoritmes om resultaten te rangschikken. YouTube, Netflix en Spotify gebruiken algoritmes om gepersonaliseerde content voor te stellen, en Amazon doet dit om winkelvoorstellen aan te passen. Algoritmes zijn nuttig en we worden er al door omringd.

Dystopische algoritmen

Algoritmen verhogen de efficiëntie en verminderen de menselijke participatie, maar ze kunnen ook dystopisch worden. Een belangrijke zorg is wat Jevgeni Morozov “onzichtbaar prikkeldraad” genoemd: een systeem waarbij algoritmes op subtiele wijze keuzes sturen en intellectuele en sociale groei beperken zonder dat mensen het doorhebben. Deze systemen analyseren persoonlijke gegevens om gedrag te voorspellen, en duwen individuen richting bepaalde acties terwijl ze de blootstelling aan alternatieve ideeën of kansen beperken.

Omdat de beperkingen niet expliciet zijn, gaan mensen ervan uit dat ze vrij handelen, ook al zijn hun opties zorgvuldig samengesteld door onzichtbare krachten. Deze stille controle kan de vrijheid verzwakken door kritisch denken te verminderen en bestaande gewoontes te versterken in plaats van onafhankelijke besluitvorming te bevorderen. Met andere woorden, mensen volgen gedachteloos suggesties van het algoritme, niet wetende hoe het algoritme werkt, zich niet bewust van het feit dat ze gemanipuleerd kunnen worden, maar bang om alternatieve paden te bewandelen die hen schade kunnen berokkenen.

De ondoorzichtigheid van deze besluitvormingssystemen is inderdaad een ander dringend probleem. Veel algoritmen functioneren als black boxes, die kritische keuzes maken zonder duidelijke uitleg. Dit gebrek aan transparantie is gevaarlijk, vooral wanneer algoritmen worden getraind op bevooroordeelde data. Als een algoritme onbewust historische ongelijkheden weerspiegelt, kan het discriminatie in stand houden terwijl het zijn beslissingen als objectief presenteert.

Zo zijn predictive policing tools bekritiseerd omdat ze oneerlijk gemarginaliseerde gemeenschappen targeten, en AI-gestuurde kredietscoresystemen hebben bepaalde groepen onevenredig benadeeld. Wanneer deze tools financiële toegang, rechtshandhaving en werkgelegenheid vormgeven, worden de risico's van bevooroordeelde automatisering aanzienlijk.

Een beetje slechte geschiedenis

Voorbeelden uit de praktijk illustreren de schade die slecht ontworpen algoritmen kunnen veroorzaken. In 2018 heeft de Nederlandse overheid de algoritmisch systeem SyRI om potentiële fraudeurs op het gebied van sociale voorzieningen te identificeren, waarbij duizenden mensen zonder duidelijke rechtvaardiging werden gemarkeerd voor onderzoek. Publieke tegenreacties leidden ertoe dat het systeem in 2020 werd gesloten vanwege schending van de mensenrechten.

Op dezelfde manier werd in 2021 in de VS de ATLAS-software werd gebruikt om immigratieaanvragen te evalueren, wat kritiek opleverde vanwege de ondoorzichtige en potentieel discriminerende beslissingen, en het uiteindelijke doel om burgers te denaturaliseren. In het VK is een algoritme toegewezen studenten examencijfers in 2020, waarbij de rijkere scholen werden bevoordeeld en de anderen werden gestraft. Wijdverbreide protesten dwongen de overheid om het besluit terug te draaien, wat aantoont hoe ongecontroleerde algoritmische controle een directe impact kan hebben op levens.

Hoewel algoritmes besluitvorming kunnen stroomlijnen, kan misbruik ervan systemische problemen verankeren, vrijheid beperken en vertrouwen ondermijnen. Zonder transparantie, verantwoording en ethisch toezicht lopen gecentraliseerde algoritmes het risico om controletools te worden in plaats van empowermenttools.

Gedecentraliseerde rechtvaardigheid

Tot nu toe kunnen we in ieder geval zeggen dat de meest tirannieke algoritmes uit de gecentraliseerde wereld komen. Het is altijd een centrale partij (bedrijf of overheid) die het geheel controleert om hun eigen dubieuze doelen te bereiken, of dingen verpest door louter nalatigheid. Gelukkig voor ons kunnen algoritmes nog steeds worden gebruikt om vrijheid en rechtvaardigheid te krijgen, vooral als ze gedecentraliseerd zijn. Zoals u misschien al vermoedt, zijn de meeste crypto-algoritmes open-source en gedecentraliseerd, beschikbaar voor iedereen om te controleren en te gebruiken. En we hebben al een aantal algoritmische systemen voor gedecentraliseerde rechtvaardigheid.

Een belangrijk element in gedecentraliseerd bestuur is bijvoorbeeld de Decentralized Autonomous Organization (DAO), die werkt met behulp van smart contracts: self-executing agreements. DAO's stellen leden in staat om deel te nemen aan besluitvorming door middel van stemmen, waardoor de controle wordt verdeeld onder deelnemers in plaats van een centrale entiteit. Dit is een type on-chain bestuur, waarbij regels en beslissingen worden uitgevoerd via DLT-geverifieerde processen, en het helpt transparantie en veiligheid te behouden en voorkomt manipulatie door machtige individuen of organisaties.

Gedecentraliseerde rechtvaardigheid streeft ernaar om geschillen eerlijk en efficiënt op te lossen en tegelijkertijd de risico's van gecentraliseerde controle te vermijden. Traditionele rechtbanken vertrouwen op menselijk oordeel, maar gedecentraliseerde rechtssystemen gebruiken crypto-economische prikkels om onpartijdigheid te garanderen. Deelnemers worden beloond voor het zich aansluiten bij de consensus, waarvan wordt aangenomen dat het eerlijke besluitvorming is. Deze methode elimineert de afhankelijkheid van vertrouwen en gebruikt in plaats daarvan prikkels om rechtvaardige uitkomsten te garanderen.

Bovendien is gedecentraliseerde rechtvaardigheid ontworpen om transparant te zijn, met regels en besluitvormingsprocessen die openlijk beschikbaar zijn op het netwerk. Dit garandeert voorspelbaarheid, consistentie en weerstand tegen vooroordelen of corruptie.

Algocratie voor het goede

Een geschikt algoritmisch netwerk om eerlijkere rechtssystemen te bouwen is Overlijdensbericht , een volledig gedecentraliseerde grootboektechnologie (DLT) die tussenpersonen zoals miners en "validators" verwijdert . Obyte maakt ook on-chain governance mogelijk, waardoor de community collectief belangrijke beslissingen kan nemen via stemmechanismen. Het ondersteunt ook slimme contracten, die transacties en overeenkomsten automatiseren zonder dat er een centrale autoriteit nodig is.

Bovendien biedt Obyte contracten met arbitrage , waardoor partijen overeenkomsten kunnen aangaan waarbij geschillen kunnen worden opgelost door niet alleen gebruik te maken van slimme contracten, maar ook van professionele menselijke arbiters van de ArbWinkel . Deze functies zorgen ervoor dat transacties en bestuur transparant, eerlijk en bestand zijn tegen externe controle, wat de principes van decentralisatie in zowel bestuur als rechtvaardigheid versterkt. Het is ook een geweldig voorbeeld van hoe je de algocratie voor het goede kunt gebruiken!

Uitgelichte vectorafbeelding door vector4stock / Gratispik