Os seres humanos podem vencer no progresso com a coordenação?

Agradecimentos especiais a Karl Floersch e Jinglan Wang pelo feedback e revisão.

Veja também:

• em conluio
• Segurança de engenharia através de problemas de coordenação
• Modelos de confiança
• O significado da descentralização

A coordenação -- a capacidade de grandes grupos de atores trabalharem juntos para seu interesse comum -- é uma das forças mais poderosas do universo.

É a diferença entre um rei governando confortavelmente um país como uma ditadura opressiva e o povo se unindo e derrubando-o.

É a diferença entre a temperatura global subindo 3-5'C e a temperatura subindo em uma quantidade muito menor se trabalharmos juntos para detê-la.

E é o fator que torna possíveis empresas, países e qualquer organização social maior do que algumas pessoas.

A coordenação pode ser melhorada de várias maneiras: disseminação mais rápida de informações, melhores normas que identificam quais comportamentos são classificados como trapaça junto com punições mais eficazes, organizações mais fortes e poderosas, ferramentas como contratos inteligentes que permitem interações com níveis reduzidos de confiança, tecnologias de governança (votação, ações, mercados de decisão...), e muito mais.

E, de fato, nós, como espécie, estamos melhorando em todas essas coisas a cada década que passa.

Mas há também um lado obscuro muito filosoficamente contra-intuitivo da coordenação.

Embora seja enfaticamente verdade que "todos coordenando com todos" leva a resultados muito melhores do que "cada um por si", o que isso NÃO implica é que cada passo individual em direção a mais coordenação é necessariamente benéfico .

Se a coordenação for melhorada de forma desequilibrada, os resultados podem facilmente ser prejudiciais.

Podemos pensar nisso visualmente como um mapa, embora na realidade o mapa tenha muitos bilhões de "dimensões" em vez de duas:

O canto inferior esquerdo, "cada um por si", é onde não queremos estar. O canto superior direito, coordenação total, é ideal, mas provavelmente inatingível.

Mas a paisagem no meio está longe de ser um declive uniforme, com muitos lugares razoavelmente seguros e produtivos nos quais seria melhor se estabelecer e muitas cavernas escuras e profundas a serem evitadas.

Agora, quais são essas formas perigosas de coordenação parcial, onde alguém coordenando com alguns outros humanos, mas não com outros , leva a um buraco profundo e escuro? É melhor descrevê-los dando exemplos:

• Cidadãos de uma nação que se sacrificam bravamente pelo bem maior de seu país em uma guerra ... quando esse país acaba sendo a Alemanha ou o Japão da era da Segunda Guerra Mundial

  
  

• Um lobista dando um suborno a um político em troca desse político adotar as políticas preferidas do lobista

  
  

• Alguém vendendo seu voto em uma eleição

  
  

• Todos os vendedores de um produto em um mercado em conluio para aumentar seus preços ao mesmo tempo

  
  

• Grandes mineradores de uma blockchain em conluio para lançar um ataque de 51%

Em todos os casos acima, vemos um grupo de pessoas se unindo e cooperando entre si, mas em grande detrimento de algum grupo que está fora do círculo de coordenação e, portanto, em detrimento líquido do mundo como um todo.

No primeiro caso, são todas as pessoas vítimas das agressões das referidas nações que estão fora do círculo de coordenação e sofrem muito com isso; no segundo e terceiro casos, são as pessoas afetadas pelas decisões que o eleitor e político corrupto estão tomando, no quarto caso são os clientes, e no quinto caso são os mineradores não participantes e os usuários do blockchain.

Não é um indivíduo desertando contra o grupo, é um grupo desertando contra um grupo mais amplo, geralmente o mundo como um todo.

Esse tipo de coordenação parcial costuma ser chamado de "conluio", mas é importante observar que a gama de comportamentos de que estamos falando é bastante ampla.

Na fala normal, a palavra "conluio" tende a ser usada com mais frequência para descrever relações relativamente simétricas, mas nos casos acima há muitos exemplos com forte caráter assimétrico.

Mesmo relacionamentos extorsivos ("vote em minhas políticas preferidas ou revelarei publicamente seu caso") são uma forma de conluio nesse sentido. No restante desta postagem, usaremos "conluio" para nos referirmos a "coordenação indesejada" em geral.

Avalie intenções, não ações (!!)

Uma propriedade importante especialmente dos casos mais brandos de conluio é que não se pode determinar se uma ação é ou não parte de um conluio indesejado apenas olhando para a própria ação.

A razão é que as ações que uma pessoa realiza são uma combinação do conhecimento, objetivos e preferências internos dessa pessoa, juntamente com incentivos impostos externamente a essa pessoa e, portanto, as ações que as pessoas realizam quando estão em conluio, versus as ações que as pessoas realizam por conta própria. volição (ou coordenação de maneiras benignas) muitas vezes se sobrepõem.

Por exemplo, considere o caso de conluio entre vendedores (um tipo de infração antitruste ). Se operando de forma independente, cada um dos três vendedores pode definir um preço para algum produto entre US$ 5 e US$ 10; as diferenças dentro do intervalo refletem fatores difíceis de ver, como os custos internos do vendedor, sua própria disposição de trabalhar com salários diferentes, problemas na cadeia de suprimentos e afins.

Mas se os vendedores entrarem em conluio, eles podem estabelecer um preço entre US$ 8 e US$ 13. Mais uma vez, o intervalo reflete diferentes possibilidades em relação aos custos internos e outros fatores difíceis de ver.

Se você vir alguém vendendo esse produto por $ 8,75, eles estão fazendo algo errado? Sem saber se eles coordenaram ou não com outros vendedores, você não pode dizer!

Fazer uma lei que diga que vender aquele produto por mais de US$ 8 seria uma má ideia; talvez existam razões legítimas pelas quais os preços devem ser altos no momento atual.

Mas fazer uma lei contra o conluio e aplicá-la com sucesso fornece o resultado ideal - você obtém o preço de $ 8,75 se o preço tiver que ser tão alto para cobrir os custos dos vendedores, mas não obtém esse preço se os fatores que impulsionam os preços naturalmente são baixos.

Isso também se aplica aos casos de suborno e venda de votos: pode muito bem ser o caso de algumas pessoas votarem legitimamente no Partido Laranja, mas outras votarem no Partido Laranja porque foram pagas para isso.

Do ponto de vista de quem determina as regras do mecanismo de votação, ele não sabe de antemão se o Partido Laranja é bom ou ruim.

Mas o que eles sabem é que uma votação em que as pessoas votam com base em seus sentimentos internos honestos funciona razoavelmente bem, mas uma votação em que os eleitores podem comprar e vender livremente seus votos funciona terrivelmente.

Isso ocorre porque a venda de votos tem uma tragédia dos comuns: cada eleitor ganha apenas uma pequena parte do benefício de votar corretamente, mas ganharia o suborno completo se votasse da maneira que o suborno deseja e, portanto, o suborno necessário para atrair cada eleitor individual é muito menor do que o suborno que realmente compensaria a população pelos custos de qualquer política que o suborno desejasse.

Portanto, os votos em que a venda de votos é permitida rapidamente se transformam em plutocracia .

Entendendo a Teoria dos Jogos

Podemos ampliar ainda mais e olhar para isso da perspectiva da teoria dos jogos. Na versão da teoria dos jogos que foca na escolha individual - ou seja, a versão que assume que cada participante toma decisões de forma independente e que não permite a possibilidade de grupos de agentes trabalharem como um só para benefício mútuo, há provas matemáticas de que pelo menos um equilíbrio de Nash estável deve existir em qualquer jogo.

Na verdade, os projetistas de mecanismos têm uma latitude muito ampla para "projetar" jogos para alcançar resultados específicos. Mas na versão da teoria dos jogos que permite a possibilidade de coalizões trabalhando juntas (ou seja, "conluio"), chamada de teoria dos jogos cooperativos , podemos provar que existem grandes classes de jogos que não têm nenhum resultado estável (chamado de " núcleo ").

Em tais jogos, qualquer que seja o estado atual das coisas, sempre há alguma coalizão que pode desviar-se dele de forma lucrativa.

Uma parte importante desse conjunto de jogos inerentemente instáveis são os jogos majoritários . Um jogo majoritário é formalmente descrito como um jogo de agentes onde qualquer subconjunto de mais da metade deles pode capturar uma recompensa fixa e dividi-la entre si - uma configuração estranhamente semelhante a muitas situações em governança corporativa, política e muitas outras situações na vida humana .

Ou seja, se houver uma situação com algum pool fixo de recursos e algum mecanismo atualmente estabelecido para distribuir esses recursos, e for inevitável que 51% dos participantes possam conspirar para obter o controle dos recursos, não importa qual seja a situação atual configuração é que sempre pode surgir alguma conspiração que seria lucrativa para os participantes.

No entanto, essa conspiração seria, por sua vez, vulnerável a novas conspirações em potencial, possivelmente incluindo uma combinação de conspiradores e vítimas anteriores... e assim por diante.

Este fato, a instabilidade dos jogos majoritários sob a teoria dos jogos cooperativos, é indiscutivelmente altamente subestimado como um modelo matemático geral simplificado de por que pode muito bem não haver "fim da história" na política e nenhum sistema que se mostre totalmente satisfatório; Pessoalmente, acredito que seja muito mais útil do que o mais famoso teorema de Arrow , por exemplo.

Observe mais uma vez que a dicotomia central aqui não é "indivíduo versus grupo"; para um projetista de mecanismos, "individual versus grupo" é surpreendentemente fácil de lidar. É "grupo versus grupo mais amplo" que apresenta o desafio.

Descentralização como anti-conluio

Mas há outra conclusão mais brilhante e acionável dessa linha de pensamento: se queremos criar mecanismos estáveis, sabemos que um ingrediente importante para fazer isso é encontrar maneiras de dificultar conluios, especialmente grandes -escala conluios, para acontecer e manter-se.

No caso da votação, temos o voto secreto - mecanismo que garante que o eleitor não tenha como provar a terceiros como votou, mesmo que queira provar ( MACI é um projeto que tenta usar criptografia para estender o sigilo princípios eleitorais para um contexto online).

Isso interrompe a confiança entre eleitores e subornos, restringindo fortemente os conluios indesejados que podem acontecer. Nesse caso de antitruste e outras infrações corporativas, muitas vezes contamos com os denunciantes e até mesmo damos a eles recompensas , explicitamente incentivando os participantes de um conluio prejudicial a desertar.

E no caso da infraestrutura pública de forma mais ampla, temos aquele conceito tão importante: descentralização .

Uma visão ingênua de por que a descentralização é valiosa é que se trata de reduzir o risco de pontos únicos de falha técnica. Em sistemas distribuídos "empresariais" tradicionais, isso geralmente é verdade, mas em muitos outros casos sabemos que isso não é suficiente para explicar o que está acontecendo.

É instrutivo aqui olhar para blockchains. Um grande pool de mineração mostrando publicamente como eles distribuíram internamente seus nós e dependências de rede não ajuda muito a acalmar os membros da comunidade com medo da centralização da mineração.

E imagens como estas, mostrando 90% do poder de hash do Bitcoin na época sendo capaz de aparecer no mesmo painel de conferência, assustam bastante as pessoas:

Mas por que essa imagem é assustadora? Do ponto de vista da "descentralização como tolerância a falhas", grandes mineradores capazes de conversar entre si não causam danos.

Mas se olharmos para a "descentralização" como sendo a presença de barreiras ao conluio prejudicial, o quadro torna-se bastante assustador, porque mostra que essas barreiras não são tão fortes quanto pensávamos.

Agora, na realidade, as barreiras ainda estão longe de zero; o fato de que esses mineradores podem executar facilmente a coordenação técnica e provavelmente estão todos nos mesmos grupos do Wechat não significa, de fato, que o Bitcoin seja "na prática, pouco melhor do que uma empresa centralizada".

Então, quais são as barreiras remanescentes ao conluio? Alguns dos principais incluem:

• Barreiras Morais . Em Liars and Outliers , Bruce Schneier nos lembra que muitos "sistemas de segurança" (fechaduras nas portas, sinais de alerta lembrando as pessoas de punições...) eles querem ser uma boa pessoa, eles não deveriam fazer isso. A descentralização sem dúvida serve a essa função.

  
  

• Falha na negociação interna . As empresas individuais podem começar a exigir concessões em troca de participar do conluio, e isso pode levar à paralisação total da negociação (consulte "problemas de resistência" em economia).

  
  

• Contra-coordenação . O fato de um sistema ser descentralizado torna mais fácil para os participantes que não participam do conluio fazer uma bifurcação que elimina os atacantes conluios e continua o sistema a partir daí.

  
  

  As barreiras para os usuários ingressarem no fork são baixas, e a intenção de descentralização cria pressão moral em favor de participar do fork.

  
  

• Risco de deserção . Ainda é muito mais difícil para cinco empresas se unirem para fazer algo amplamente considerado ruim do que para um propósito não controverso ou benigno.

  
  

  As cinco empresas não se conhecem muito bem, então existe o risco de uma delas se recusar a participar e denunciar rapidamente, e os participantes têm dificuldade em avaliar o risco. Funcionários individuais dentro das empresas também podem denunciar.

Juntas, essas barreiras são realmente substanciais - muitas vezes substanciais o suficiente para interromper ataques em potencial, mesmo quando essas cinco empresas são simultaneamente perfeitamente capazes de se coordenar rapidamente para fazer algo legítimo.

Os mineradores da blockchain Ethereum, por exemplo, são perfeitamente capazes de coordenar aumentos até o limite de gás , mas isso não significa que eles possam conspirar tão facilmente para atacar a cadeia.

A experiência da blockchain mostra como projetar protocolos como arquiteturas institucionalmente descentralizadas, mesmo quando se sabe de antemão que a maior parte da atividade será dominada por algumas empresas, pode ser algo muito valioso.

Essa ideia não se limita a blockchains; ela também pode ser aplicada em outros contextos (por exemplo, veja aqui as aplicações para antitruste).

Bifurcação como contra-coordenação

Mas nem sempre podemos impedir efetivamente que conluios nocivos ocorram. E para lidar com os casos em que ocorre um conluio prejudicial, seria bom criar sistemas mais robustos contra eles - mais caros para os conluios e mais fáceis de recuperar para o sistema.

Existem dois princípios operacionais básicos que podemos usar para atingir esse objetivo: (1) apoiar a contra-coordenação e (2) skin-in-the-game .

A ideia por trás da contra-coordenação é a seguinte: sabemos que não podemos projetar sistemas para serem passivamente robustos a conluios, em grande parte porque há um número extremamente grande de maneiras de organizar um conluio e não há nenhum mecanismo passivo que possa detectá-los, mas o que podemos fazer é responder ativamente aos conluios e contra-atacar.

Em sistemas digitais, como blockchains (isso também pode ser aplicado a sistemas mais convencionais, por exemplo, DNS), uma forma importante e crucialmente importante de contra-coordenação é a bifurcação .

Se um sistema for dominado por uma coalizão prejudicial, os dissidentes podem se unir e criar uma versão alternativa do sistema, que tem (principalmente) as mesmas regras, exceto que remove o poder da coalizão atacante de controlar o sistema.

A bifurcação é muito fácil em um contexto de software de código aberto; o principal desafio na criação de um fork bem-sucedido geralmente é reunir a legitimidade (jogo teoricamente visto como uma forma de " conhecimento comum ") necessária para fazer com que todos aqueles que discordam da direção da coalizão principal sigam com você.

Isso não é apenas teoria; foi realizado com sucesso, principalmente na rebelião da comunidade Steem contra uma tentativa de aquisição hostil, levando a uma nova blockchain chamada Hive, na qual os antagonistas originais não têm poder.

Mercados e pele no jogo

Outra classe de estratégia de resistência ao conluio é a ideia de pele no jogo . Skin in the game, neste contexto, significa basicamente qualquer mecanismo que mantenha contribuintes individuais em uma decisão individualmente responsáveis por suas contribuições.

Se um grupo toma uma decisão ruim, aqueles que aprovaram a decisão devem sofrer mais do que aqueles que tentaram divergir. Isso evita a "tragédia dos comuns" inerente aos sistemas de votação.

A bifurcação é uma forma poderosa de contra-coordenação precisamente porque introduz skin no jogo.

No Hive, o fork comunitário do Steem que descartou a tentativa de aquisição hostil, as moedas que foram usadas para votar a favor da aquisição hostil foram amplamente excluídas no novo fork.

Os principais indivíduos que participaram do ataque sofreram individualmente como resultado.

Os mercados são, em geral, ferramentas muito poderosas precisamente porque maximizam a pele no jogo. Os mercados de decisão (mercados de previsão usados para guiar decisões; também chamados de futarquia ) são uma tentativa de estender esse benefício dos mercados para a tomada de decisão organizacional.

Dito isso, os mercados de decisão só podem resolver alguns problemas; em particular, eles não podem nos dizer quais variáveis devemos otimizar em primeiro lugar.

Coordenação de Estruturação

Tudo isso nos leva a uma visão interessante do que fazem as pessoas que constroem sistemas sociais.

Um dos objetivos da construção de um sistema social eficaz é, em grande parte, determinar a estrutura de coordenação : quais grupos de pessoas e em quais configurações podem se unir para promover seus objetivos de grupo e quais grupos não podem?

Diferentes estruturas de coordenação, diferentes resultados

Às vezes, mais coordenação é bom: é melhor quando as pessoas podem trabalhar juntas para resolver seus problemas coletivamente.

Outras vezes, mais coordenação é perigosa: um subconjunto de participantes pode se coordenar para privar todos os outros. E ainda em outras ocasiões, mais coordenação é necessária por outro motivo: para permitir que a comunidade mais ampla "revida" contra um conluio que ataca o sistema.

Em todos os três casos, existem diferentes mecanismos que podem ser usados para atingir esses fins. Claro, é muito difícil impedir a comunicação total e é muito difícil tornar a coordenação perfeita.

Mas há muitas opções intermediárias que podem, no entanto, ter efeitos poderosos.

Aqui estão algumas técnicas de estruturação de coordenação possíveis:

• Tecnologias e normas que protegem a privacidade

  
  

• Meios tecnológicos que dificultam a comprovação de seu comportamento (votos secretos, MACI e tecnologia similar)

  
  

• Descentralização deliberada, distribuindo o controle de algum mecanismo para um amplo grupo de pessoas que são conhecidas por não serem bem coordenadas

  
  

• Descentralização no espaço físico, separando diferentes funções (ou diferentes partes da mesma função) para diferentes locais (por exemplo, ver Samo Burja sobre conexões entre descentralização urbana e descentralização política )

  
  

• Descentralização entre constituintes baseados em papéis, separando diferentes funções (ou diferentes compartilhamentos da mesma função) para diferentes tipos de participantes (por exemplo, em um blockchain: "desenvolvedores principais", "mineiros", "detentores de moedas", "desenvolvedores de aplicativos" , "usuários")

  
  

• Schelling pontos , permitindo que grandes grupos de pessoas se coordenem rapidamente em torno de um único caminho a seguir. Pontos complexos de Schelling podem até ser implementados em código (por exemplo , a recuperação de ataques de 51% pode se beneficiar disso).

  
  

• Falar um idioma comum (ou, alternativamente, dividir o controle entre vários constituintes que falam idiomas diferentes)

  
  

• Usando a votação por pessoa em vez da votação por (moeda/ação) para aumentar consideravelmente o número de pessoas que precisariam conspirar para afetar uma decisão

  
  

• Incentivar e contar com desertores para alertar o público sobre futuros conluios

Nenhuma dessas estratégias é perfeita, mas podem ser usadas em vários contextos com diferentes níveis de sucesso.

Além disso, essas técnicas podem e devem ser combinadas com o design de mecanismos que tentam tornar os conluios nocivos menos lucrativos e mais arriscados na medida do possível; skin no jogo é uma ferramenta muito poderosa nesse sentido.

Qual combinação funciona melhor depende do seu caso de uso específico.

Originalmente publicado como “ Coordination, Good and Bad ”.