Los algoritmos están a nuestro alrededor, pero ¿podemos confiar en que nos gobiernen?

“Algocracia”, “Gobierno por algoritmo” o “Regulación algorítmica” no es precisamente un concepto bien definido ni claro. Sin embargo, podemos resumirlo así: algoritmos + gobernanza (leyes o reglas de algún tipo). En este sentido, podemos hablar de algocracia cuando algún tipo de sistema basado en algoritmos, ya sea un contrato inteligente, una Inteligencia Artificial (IA) o cualquier otro, controla, total o parcialmente, los procesos de toma de decisiones de alguna plataforma, proyecto, emprendimiento o institución.

No es lo mismo que el gobierno electrónico (gobiernos que utilizan herramientas digitales) y plantea su propio conjunto de posibles problemas. Un algoritmo es más que una simple aplicación digital; es un conjunto estructurado de instrucciones precisas diseñadas para abordar problemas complejos, aunque también tiene el potencial de crear otros nuevos. En la novela Daemon (2006) de Daniel Suárez, por ejemplo, podemos ver cómo un algoritmo se apodera del mundo en secreto, incluso asesinando personas, después de que su creador muere.

En nuestro mundo todavía no hemos llegado a un nivel tan distópico, pero es posible que estemos construyendo el camino hacia él. Los algoritmos ya están siendo utilizados por individuos, empresas y gobiernos para tomar decisiones. Y decisiones importantes, por cierto.

Algoritmos en acción

Si te lo has estado preguntando: sí, las criptomonedas funcionan con algoritmos. Los contratos inteligentes funcionan con algoritmos, y las redes criptográficas enteras se construyen sobre algoritmos. Utilizan estas instrucciones matemáticas complejas para reemplazar a los intermediarios humanos costosos o desconfiados en la verificación de transacciones. Los algoritmos también ayudan a las personas a tomar decisiones generales sobre sus plataformas al proporcionarles la infraestructura para votar ( Gobernanza en cadena en redes criptográficas). Estos son solo un par de ejemplos de lo que hacen los algoritmos, pero eso está lejos de ser todo lo que hacen.

En 2017, la policía de Durham (Reino Unido) introdujo la herramienta de evaluación de riesgos de daños (HART), un sistema de inteligencia artificial que predice la probabilidad de que un sospechoso reincida. Clasifica a las personas en categorías de riesgo, lo que ayuda a decidir si deben ser detenidas o si reúnen los requisitos para recibir rehabilitación. En Estados Unidos y China se utilizan métodos de vigilancia predictiva similares, a menudo basados en el aprendizaje automático y el análisis de datos.

Las ciudades inteligentes ofrecen otra aplicación real de la gobernanza algorítmica. La infraestructura impulsada por IA, como el alumbrado público inteligente y los sistemas de tráfico automatizados, optimiza el uso de los recursos. Proyectos como la ciudad futurista “The Line” en Arabia Saudita planean integrar la IA para servicios proactivos. Los gobiernos también están incorporando la IA en la toma de decisiones, desde la automatización de las auditorías fiscales hasta el uso de modelos predictivos para los servicios sociales. Los jueces de IA, probados en China y Estonia, pueden manejar disputas legales menores, mientras que los algoritmos predictivos ayudan en la sentencia judicial. La educación ve una automatización similar con plataformas como Knewton, que ajusta los materiales de aprendizaje en función del desempeño de los estudiantes.

Los modelos de lenguaje como ChatGPT o DeepSeek se basan en algoritmos. Google Search utiliza algoritmos para clasificar los resultados. YouTube, Netflix y Spotify utilizan algoritmos para sugerir contenido personalizado, y Amazon lo hace para personalizar las sugerencias de compra. Los algoritmos son útiles y ya estamos rodeados de ellos.

Algoritmos distópicos

Los algoritmos aumentan la eficiencia y reducen la participación humana, pero también pueden volverse distópicos. Una de las principales preocupaciones es qué Evgeny Morozov Se trata de un sistema denominado “alambre de púas invisible”, en el que algoritmos guían sutilmente las decisiones, restringiendo el crecimiento intelectual y social sin que la gente se dé cuenta. Estos sistemas analizan datos personales para predecir el comportamiento, impulsando a los individuos a realizar determinadas acciones y limitando la exposición a ideas u oportunidades alternativas.

Como las restricciones no son explícitas, las personas asumen que están actuando libremente, aunque sus opciones hayan sido cuidadosamente seleccionadas por fuerzas invisibles. Este control silencioso puede debilitar la libertad al reducir el pensamiento crítico y reforzar los hábitos preexistentes en lugar de fomentar la toma de decisiones independiente. En otras palabras, las personas siguen las sugerencias del algoritmo sin pensar, sin saber cómo funciona, sin darse cuenta de que pueden ser manipuladas, pero con miedo de tomar caminos alternativos que podrían perjudicarlas.

La opacidad Otro problema acuciante es la falta de transparencia de estos sistemas de toma de decisiones. Muchos algoritmos funcionan como cajas negras, que toman decisiones críticas sin explicaciones claras. Esta falta de transparencia es peligrosa, especialmente cuando los algoritmos se entrenan con datos sesgados. Si un algoritmo refleja sin saberlo desigualdades históricas, puede perpetuar la discriminación al tiempo que presenta sus decisiones como objetivas.

Por ejemplo, las herramientas de vigilancia predictiva han sido criticadas por apuntar injustamente a las comunidades marginadas, y los sistemas de calificación crediticia basados en inteligencia artificial han perjudicado desproporcionadamente a ciertos grupos. Cuando estas herramientas configuran el acceso financiero, la aplicación de la ley y el empleo, los riesgos de una automatización sesgada se vuelven significativos.

Un poco de mala historia

Los ejemplos del mundo real ilustran el daño que pueden causar los algoritmos mal diseñados. En 2018, el gobierno holandés implementó el Sistema algorítmico SyRI para identificar a posibles defraudadores de la asistencia social, señalando a miles de personas para que fueran investigadas sin una justificación clara. La reacción pública provocó que el sistema se cerrara en 2020 por violar los derechos humanos.

De manera similar, en 2021 en EE. UU., el software ATLAS fue usado para evaluar las solicitudes de inmigración, lo que ha suscitado críticas por sus decisiones opacas y potencialmente discriminatorias, y su objetivo final de desnaturalizar a los ciudadanos. En el Reino Unido, un algoritmo calificaciones de exámenes asignados a los estudiantes En 2020, se favoreció a los estudiantes de escuelas más ricas y se penalizó a los demás. Las protestas generalizadas obligaron al gobierno a revertir la decisión, lo que demuestra cómo el control algorítmico sin control puede afectar directamente las vidas.

Si bien los algoritmos pueden agilizar la toma de decisiones, su uso indebido puede afianzar problemas sistémicos, limitar la libertad y erosionar la confianza. Sin transparencia, rendición de cuentas y supervisión ética, los algoritmos centralizados corren el riesgo de convertirse en herramientas de control en lugar de empoderamiento.

Justicia descentralizada

Hasta ahora, al menos, podemos decir que los algoritmos más tiránicos provienen del mundo centralizado. Siempre es una parte central (empresa o gobierno) la que controla todo para alcanzar sus propios propósitos dudosos, o arruina todo por mera negligencia. Afortunadamente para nosotros, los algoritmos aún se pueden usar para obtener libertad y justicia, especialmente si están descentralizados. Como puede estar adivinando, la mayoría de los algoritmos criptográficos son de código abierto y descentralizados, disponibles para que todos los revisen y usen. Y ya tenemos algunos sistemas algorítmicos para la justicia descentralizada.

Un elemento clave en la gobernanza descentralizada, por ejemplo, es la Organización Autónoma Descentralizada (DAO), que opera mediante contratos inteligentes (acuerdos autoejecutables). Las DAO permiten a los miembros participar en la toma de decisiones mediante votaciones, lo que garantiza que el control se distribuya entre los participantes en lugar de una entidad central. Este es un tipo de gobernanza en cadena, donde las reglas y decisiones se ejecutan a través de procesos verificados por DLT, y ayuda a mantener la transparencia y la seguridad al tiempo que evita la manipulación por parte de personas u organizaciones poderosas.

Justicia descentralizada El objetivo es resolver disputas de manera justa y eficiente, evitando los riesgos del control centralizado. Los tribunales tradicionales dependen del juicio humano, pero los sistemas de justicia descentralizados utilizan incentivos criptoeconómicos para garantizar la imparcialidad. Los participantes son recompensados por alinearse con el consenso, lo que se supone que implica una toma de decisiones justa. Este método elimina la dependencia de la confianza y, en cambio, utiliza incentivos para garantizar resultados justos.

Además, la justicia descentralizada está diseñada para ser transparente, con reglas y procesos de toma de decisiones disponibles abiertamente en la red, lo que garantiza previsibilidad, coherencia y resistencia a los sesgos o la corrupción.

Algocracia para el bien

Una red algorítmica adecuada para construir sistemas de justicia más justos es Obyte , una tecnología de contabilidad completamente descentralizada (DLT) que elimina intermediarios como mineros y “validadores” . Obyte también permite la gobernanza en cadena, lo que permite a su comunidad tomar decisiones clave de forma colectiva a través de mecanismos de votación. También admite contratos inteligentes, que automatizan transacciones y acuerdos sin necesidad de una autoridad central.

Además, Obyte ofrece contratos con arbitraje , lo que permite a las partes participar en acuerdos en los que las disputas pueden resolverse mediante el uso no solo de contratos inteligentes sino también de árbitros humanos profesionales. Tienda de arb Estas características garantizan que las transacciones y la gobernanza sigan siendo transparentes, justas y resistentes al control externo, lo que refuerza los principios de descentralización tanto en la gobernanza como en la justicia. ¡También es un gran ejemplo de cómo usar la algocracia para el bien!

Imagen vectorial destacada de vector4stock / Pico libre