Алгоритми су свуда око нас, али може ли им се веровати да ће управљати нама?

„Алгократија“, „Влада по алгоритму“ или „Алгоритамска регулација“ није баш добро дефинисан или јасан концепт. Међутим, можемо то сумирати овако: алгоритми + управљање (закони или правила неке врсте). У том смислу, можемо говорити о алгократији када нека врста система заснованог на алгоритму, било да је то паметни уговор, вештачка интелигенција (АИ), или било који други, контролише, у потпуности или делимично, процесе доношења одлука неке платформе, пројекта, подухвата или институције.

То у великој мери није исто што и е-управа (владе које користе дигиталне алате), и поставља сопствени скуп потенцијалних проблема. Алгоритам је више од обичне дигиталне апликације; то је структуирани скуп прецизних упутстава дизајнираних да се позабаве сложеним проблемима — а истовремено има потенцијал да створи нове. У роману Даемон (2006) Даниела Суареза, на пример, можемо видети како алгоритам тајно преузима свет, чак и убија људе, након што његов творац умре.

Нисмо достигли тако дистопијски ниво у сопственом свету, али можда градимо пут за то. Појединци, компаније и владе већ користе алгоритме за доношење одлука. И важне одлуке, притом.

Алгоритми у акцији

Ако сте се питали: да, криптовалуте раде са алгоритмима. Паметни уговори раде са алгоритмима, а читаве крипто мреже су изграђене на алгоритмима. Они користе ова сложена, математичка упутства да замене скупе или неповерљиве људске посреднике у верификацији трансакција. Алгоритми такође помажу људима да донесу опште одлуке о својим платформама тако што им пружају инфраструктуру за гласање ( управљање на ланцу у крипто мрежама). Ово је само неколико примера онога што алгоритми раде, али то је далеко од свега што они намеравају.

Полиција из Дурхам-а (УК) је 2017. године увела Алат за процену ризика од штете (ХАРТ), систем вештачке интелигенције који предвиђа вероватноћу да ће осумњичени поновити кривично дело. Он је класификовао појединце у ризичне категорије, помажући да се одлучи да ли су притворени или имају право на рехабилитацију. Сличне предиктивне полицијске методе, често засноване на машинском учењу и анализи података, користе се у САД и Кини.

Паметни градови пружају још једну стварну примену алгоритамског управљања. Инфраструктура заснована на вештачкој интелигенцији, као што је интелигентно улично осветљење и аутоматизовани саобраћајни системи, оптимизује коришћење ресурса. Пројекти попут футуристичког града „Тхе Лине“ у Саудијској Арабији планирају да интегришу вештачку интелигенцију за проактивне услуге. Владе такође укључују вештачку интелигенцију у доношење одлука, од аутоматизације пореских ревизија до коришћења модела предвиђања за социјалне услуге. Судије са вештачком интелигенцијом, тестиране у Кини и Естонији, могу да решавају мање правне спорове, док предиктивни алгоритми помажу у изрицању пресуда. Образовање види сличну аутоматизацију са платформама као што је Кневтон, који прилагођава материјале за учење на основу учинка ученика.

Језички модели као што су ЦхатГПТ или ДеепСеек су изграђени на алгоритмима. Гоогле претрага користи алгоритме за рангирање резултата. ИоуТубе, Нетфлик и Спотифи користе алгоритме за предлагање персонализованог садржаја, а Амазон то ради да би прилагодио предлоге за куповину. Алгоритми су корисни и већ смо окружени њима.

Дистопијски алгоритми

Алгоритми повећавају ефикасност и смањују људско учешће, али могу постати и дистопијски. Једна главна брига је шта Евгениј Морозов назван „невидљива бодљикава жица“—систем у којем алгоритми суптилно усмеравају изборе, ограничавајући интелектуални и друштвени раст, а да људи то не схватају. Ови системи анализирају личне податке како би предвидели понашање, подстичући појединце на одређене радње док ограничавају излагање алтернативним идејама или приликама.

Пошто ограничења нису експлицитна, људи претпостављају да се понашају слободно, иако су њихове опције пажљиво бирале невидљиве силе. Ова тиха контрола може ослабити слободу смањењем критичког мишљења и јачањем већ постојећих навика уместо подстицањем независног доношења одлука. Другим речима, људи безумно прате сугестије алгоритма, не знајући како алгоритам функционише, несвесни да се њима може манипулисати, али се плаше да крену алтернативним путевима који би им могли нашкодити.

Непрозирност ових система одлучивања је још једно горуће питање, заиста. Многи алгоритми функционишу као црне кутије, доносећи критичне изборе без јасних објашњења. Овај недостатак транспарентности је опасан, посебно када су алгоритми обучени на пристрасним подацима. Ако алгоритам несвесно одражава историјске неједнакости, он може продужити дискриминацију док своје одлуке представља као објективне.

На пример, предиктивни полицијски алати су критиковани због неправедног циљања на маргинализоване заједнице, а системи кредитног бодовања вођени вештачком интелигенцијом довели су у несразмерно неповољнији положај одређене групе. Када ови алати обликују финансијски приступ, спровођење закона и запошљавање, ризици пристрасне аутоматизације постају значајни.

Нека лоша историја

Примери из стварног света илуструју штету коју лоше дизајнирани алгоритми могу да изазову. Холандска влада је 2018. распоредила алгоритамски систем СиРИ да идентификује потенцијалне преваранте у области социјалне заштите, означавајући хиљаде људи ради истраге без јасног оправдања. Јавна реакција довела је до гашења система 2020. због кршења људских права.

Слично, 2021. у САД, софтвер АТЛАС је коришћен да процењује имиграционе молбе, изазивајући критике због својих непрозирних и потенцијално дискриминаторских одлука, и свог крајњег циља да денатурализује грађане. У Великој Британији, алгоритам додељене оцене студентског испита 2020. фаворизујући оне из богатијих школа док кажњавају друге. Широко распрострањени протести приморали су владу да поништи одлуку, показујући како непроверена алгоритамска контрола може директно утицати на животе.

Док алгоритми могу да поједноставе доношење одлука, њихова злоупотреба може учврстити системске проблеме, ограничити слободу и нарушити поверење. Без транспарентности, одговорности и етичког надзора, централизовани алгоритми ризикују да постану алати контроле, а не оснаживања.

Децентрализовано правосуђе

До сада, барем, можемо рећи да најтиранскији алгоритми долазе из централизованог света. Увек је централна странка (компанија или влада) која контролише целу ствар да би остварила своје сумњиве сврхе или забрљала ствари због пуког немара. На нашу срећу, алгоритми се и даље могу користити за постизање слободе и правде, посебно ако су децентрализовани. Као што можда погађате, већина крипто алгоритама је отвореног кода и децентрализована, доступна свима за проверу и употребу. А ми већ имамо неке алгоритамске системе за децентрализовану правду.

Кључни елемент у децентрализованом управљању, на пример, је Децентрализована аутономна организација (ДАО), која ради користећи паметне уговоре – споразуме који се самостално извршавају. ДАО омогућавају члановима да учествују у доношењу одлука путем гласања, обезбеђујући да се контрола расподели међу учесницима, а не на централни ентитет. Ово је врста управљања на ланцу, где се правила и одлуке извршавају кроз ДЛТ верификоване процесе, и помаже у одржавању транспарентности и безбедности док спречава манипулацију моћних појединаца или организација.

Децентрализована правда има за циљ праведно и ефикасно решавање спорова уз избегавање ризика централизоване контроле. Традиционални судови се ослањају на људско расуђивање, али децентрализовани правосудни системи користе крипто-економске подстицаје како би осигурали непристрасност. Учесници су награђени за усклађивање са консензусом, за који се претпоставља да је праведно доношење одлука. Овај метод елиминише ослањање на поверење и уместо тога користи подстицаје како би обезбедио праведне резултате.

Поред тога, децентрализовано правосуђе је дизајнирано да буде транспарентно, са правилима и процесима доношења одлука који су отворено доступни на мрежи. Ово гарантује предвидљивост, доследност и отпорност на пристрасност или корупцију.

Алгократија за добро

Прикладна алгоритамска мрежа за изградњу праведнијег правосудног система је Обите , потпуно децентрализована технологија књиге (ДЛТ) која уклања посреднике попут рудара и „валидатора“ . Обите такође омогућава управљање на ланцу, омогућавајући својој заједници да колективно доноси кључне одлуке кроз механизме гласања. Такође подржава паметне уговоре, који аутоматизују трансакције и споразуме без потребе за централним ауторитетом.

Поред тога, Обите нуди уговори са арбитражом , омогућавајући странама да се укључе у споразуме у којима се спорови могу решити коришћењем не само паметних уговора већ и професионалних људских арбитара из АрбСторе . Ове карактеристике обезбеђују да трансакције и управљање остану транспарентни, поштени и отпорни на спољну контролу, јачајући принципе децентрализације како у управљању тако иу правосуђу. То је такође одличан пример како се алгократија користи за добро!

Истакнута векторска слика од вецтор4стоцк / Фреепик