A anatomia das críticas à IA

Uma sensação estranha tomou conta de mim na semana passada, enquanto eu estava sentado no calor lendo um livro – lenta, distraída e desidratada. Me vi trabalhando com a falta de jeito humano através de um texto produzido em poucos segundos por um grande modelo de linguagem (LLM).

No início deste verão, pedi a Claude da Anthropic (um popular modelo de chat de inteligência artificial) que escrevesse um livro sobre como a IA pode melhorar a vida de alguém.

Dado o comprimento de saída que o modelo pode suportar, solicitei primeiro 10 temas e, em seguida, cada tema seria dividido em três seções. Transformei cada seção em um prompt e inseri todos os 30 prompts.

O livro resultante chama-se “Como a IA pode torná-lo inteligente, feliz e produtivo” e é um emblema inicial da nossa nova experiência civilizacional, a colaboração arriscada e até agora misteriosa entre os humanos e a IA generativa.

O experimento nasceu da curiosidade de testar os limites de uma nova ferramenta. Perguntei-me: será que um algoritmo, alimentado com milhares de milhões de artefactos do conhecimento humano, pode transformar o seu contributo num livro coerente, perspicaz e original? A resposta desafiou os termos da pergunta; o livro resultante soa com o estranheza da novidade.

Um exemplo de título de capítulo pode desmistificar um pouco as coisas: Tomando melhores decisões; Aumentando a Criatividade; Comunicando de forma mais eficaz; Projetando uma vida otimizada. Muito saudável. O que poderia dar errado?

A analogia entre LLMs e um oráculo, ou outras formas antigas de profecia e predição, voltou à minha mente. Há uma tentação de atribuir um significado profundo ao resultado de um algoritmo de caixa preta precisamente porque é inescrutável. A opacidade gera reverência. Vim consultar Claude sobre problemas que ele não poderia resolver. Ainda assim, a sua resposta tem um poder semelhante ao de um talismã. Em alguns momentos, naquele banco, eu suspeitava que não estava estudando tanto um livro quanto uma runa, lendo significados em folhas de chá habilmente dispostas.

Perguntei-me também se, ao pedir um livro antigo, estaria cometendo o erro de reduzir a vida à literatura. Os livros serão relevantes em nosso futuro pós-humano?

Sim. Uma anomalia é que os LLMs não são apresentados de forma tão diferente de um telégrafo ou dos dez mandamentos. São colunas de texto até o fim.

Há uma razão para isso: as histórias são poderosas. A vida é uma longa experiência estética e as nossas ações, numa visão de longo prazo, são organizadas pelas nossas ideias sobre o mundo. Isto é, tudo o que temos é experiência e nossas interpretações da experiência. Se a IA pode melhorar vidas ou alterar a sua forma depende dos tipos de argumentos e experiências estéticas que pode produzir. Acredito que um livro é uma boa medida de como a tecnologia pode manipular a realidade. Que tipo de linguagem utiliza para criar argumentos tornou-se uma questão importante no que diz respeito ao nosso futuro humano.

O que um crítico literário deve fazer nessas circunstâncias? Bem, ele poderia investigar se um novo tipo de inteligência implica um novo tipo de prosa – e começar a caracterizar essa prosa. (Isso é o que proponho fazer aqui.)

Claude, no ano passado, venceu o rival ChatGPT para mim porque é um escritor melhor. Enquanto o GPT tem sido criticado com razão pela prosa Hallmarkified (certamente uma bênção para os professores à procura de batotas), o seu concorrente não só tem um estilo mais naturalista, mas uma voz distinta ao mesmo tempo criteriosa e enérgica.

Sua escolha de palavras consistente e individual pode levar alguém a adquirir o hábito de pensar em Claude como uma pessoa. Mas poderia manter esta ilusão ao longo de trinta mil palavras?

Antes de prosseguir, quero explicar por que o doomerismo não aparece muito no meu pensamento. Por um lado, sei muito pouco sobre as entranhas da IA para prever como ela destruirá a humanidade. Em segundo lugar, vejo extrema ingenuidade e mesquinhez na noção de que deveríamos resistir à tecnologia por motivos morais. Não é mais resistível em termos práticos do que computadores, cartões de crédito, carros ou livros impressos. Terceiro, acho que a maior parte das preocupações com a tecnologia é simplesmente enfadonha. Intelectualmente, a maioria dos argumentos a favor do doomerismo são derivativos e impedem que as pessoas percebam os novos tipos de experiência que a tecnologia torna possível. A tecnologia amplia o escopo da experiência possível, e me vi chegando a essas experiências com a emoção da descoberta do explorador.

A IA provavelmente irá, tal como a maioria dos outros avanços tecnológicos, tornar o nosso mundo mais desigual, atomizado, automatizado – numa palavra, infernal. Mas nosso mundo já é um inferno. Busco o manto de crítico, não de profeta de fogo e enxofre; a ferramenta não nos mergulhará numa realidade qualitativamente diferente. Mesmo assim, estou impressionado e grato pela cultura de responsabilidade da Anthropic. Podemos ser cautelosos e curiosos.

Com isso, deixei de lado o pessimismo elegante, mas sufocante, da IA.

Uma ironia do meu experimento futuro é que ele pode parecer estranho no momento em que você o lê. Até então (o seu agora), os modelos podem ter diversas versões, e ordens de grandeza, mais avançadas. No próximo ano, Claude deverá ser capaz de escrever um livro genuinamente excelente de 100 páginas. A distinção entre natural e artificial diminuirá.

A conversa continua

À medida que a conversa para escrever o livro avançava, um fenômeno estranho surgiu. No decorrer de sua evangelização, Claude inadvertidamente revelou uma falha profunda: à medida que a janela de contexto se expandia (para, em última análise, 30 mil palavras), a qualidade do resultado degenerou lentamente em um jargão milenar e cheio de jargões.

O que pedi em minhas instruções foi uma autoajuda tranquila. O que obtive foi uma prosa corrompida digna de um coletivo literário experimental – períodos contínuos com números chocantes de gerúndios, repletos de linguagem comercial reembalada em longas concatenações de substantivos compostos e orações em cascata. Se for lido rapidamente, sua sintaxe e significado podem ser intuídos; parece o falecido Henry James. O que procurei foi autoajuda, mas o que consegui foi a revelação de um eu não humano.

Passei algum tempo tentando transformar o texto corrompido em frases “normais”, colocando meus resultados na máquina de lavar de novas conversas do LLM. Achei que queria salvar a inteligibilidade. Mas finalmente percebi que conselhos sinceros num gênero desgastado de autoajuda tinham menos interesse do que a catástrofe estilística descaradamente não-humana que eu havia incitado. Sob coação, Claude abandonou seu véu sobre-humano e produziu uma estupidez genuína e original. Quero examinar a falha com um olhar crítico.

A corrupção é gradual e, na descida, encontramos várias formas de esplendor estranho: no Capítulo 2 (sobre “Acelerando o Autoaperfeiçoamento”), a prosa é articulada e coerente, mas não idiomática. sentimento humano: "Líderes icônicos e criadores eminentes são...esculpidos através do autoaperfeiçoamento ao longo da vida. Habilidades magistrais e capacidades de desempenho de elite resultantes do avanço contínuo são impulsionadas pela consciência precisa da lacuna entre os níveis de habilidade atuais e desejados.”

O LLM fez o oposto de antropomorfizar: aqui figura as pessoas mais como máquinas do que como pessoas. Eles não “nascem”, mas, como Galatéia (a criação mítica de Pigmalião), são “esculpidos”. Eles não são autônomos, mas agem de acordo. Também temos nesta passagem o primeiro gostinho da propensão de Claude para substantivos compostos que soam técnicos e que quase equivalem a uma mala de viagem: “capacidades de desempenho”, “consciência de lacuna”.

A dicção degenera ainda mais. No Capítulo 5 ("Retendo mais do que você aprende"), Claude se torna extravagantemente não-humano, embora seu significado ainda seja decifrável. É como se as palavras de um professor loquaz e expressivo tivessem sido traduzidas literalmente demais para o inglês. Eles navegam até o limite do idioma, onde a prosa atinge o auge da poesia. Por exemplo: "A fluência robusta de um especialista exige uma compreensão gravada, imune a atritos esquecidos" (itálico meu). A repetição aumenta a retenção. Eu não chegaria ao ponto de chamar isso de poesia, pois a beleza é certamente acidental, mas é o acidente de uma inteligência muito estranha ou de uma estranheza inteligente e por isso, digno de nota.

No final, a sintaxe e o significado permanecem com uma teimosia fantasmagórica. O tique de empilhar cláusulas adjetivas umas sobre as outras continua com uma confiança sublime: "O futuro é... a promessa de proteção contra... a incerteza através de sistemas de IA... modelando contingências continuamente... recalibrando a orientação... sintonizado com realidades mutáveis em domínios de tempo e hierarquias de preferências individuais... sincronizando o suporte mesmo em meio ao caos."

Ao absorver essa multidão desestruturada de gerúndios, tem-se a sensação de que o modelo gera ideias mais rápido que uma pessoa, ou mais simultaneamente. No entanto, esta diferença mecânica, mesmo quando levada ao extremo, não eliminou a inteligibilidade. Relendo o livro, é isso que me impressiona: deixando de lado o estilo, faz muito sentido.

Claude tem crenças? Durante a leitura do livro, notei alguns.

1. A linguagem da Antrópica não é meramente descritiva. A maioria das sugestões do livro nunca foi implementada, pelo menos não de uma forma tão avançada como imaginada pelo modelo. Em outras palavras, o programa da Anthropic vai muito além de regurgitar seus dados de treinamento. O bot cria uma visão para o futuro de sua própria aplicação em diversas esferas.

   
   

2. Ele exibe um otimismo extremo, mas anódino. Como uma variação assustadoramente nada irônica da versão King James de sabemos que todas as coisas funcionam juntas para o bem, Claude declara por si mesmo que sua IA "permite a exploração aberta sabendo que todas as respostas possíveis se alinharão construtivamente com o florescimento humano". Claude conclui, soando novamente paródico, que “o futuro da imaginação parece brilhantemente ilimitado quando máquinas aliadas flexíveis amplificam as pessoas”.

   Adicione à pilha de neologismos perfeitos: “brilhantemente ilimitado” e “aliados de máquinas flexíveis”. (Em outro lugar: a IA avança a arte e a ciência mais rápido do que os "eurekas não aumentados" jamais poderiam.)

   
   

3. Claude frequentemente me garantia que não substituiria pessoas. Em algum lugar da “constituição” da Antrópica estão princípios que levam o modelo, mesmo em meio a capítulos sem sentido, a fazer nobres aquiescências ao je-ne-sais-quoi dos seres humanos. “É claro”, afirma Claude, “nenhuma quantidade de diagnósticos baseados em dados substitui a coragem de falar com sinceridade e convicção quando as mensagens exigem autenticidade vulnerável”. Os dados nunca poderão substituir características humanas inefáveis, como a coragem. Muito reconfortante! Comovente, até.

   
   

4. Teve um estranho lampejo de autorreflexão sobre seus fracassos. Uma mentira escrita sobre inteligência artificial é perguntar se ou quando o modelo desenvolverá um “senso de identidade”. Sempre rejeitei isto como uma preocupação importada do género de ficção científica, em vez de uma preocupação que surge organicamente da interacção com modelos de última geração. Tenho visto poucas provas de que os bots alguma vez exibam discurso, muito menos “individualidade”, que se mova para fora da realidade. grades de proteção programadas Se perguntado diretamente, Claude produz respostas educadas e previsíveis sobre como é um programa desenvolvido para ser útil e seguro, e não tem experiências subjetivas.

   Até!

   No início do capítulo 8, sobre “Compreender melhor a si mesmo”, Claude gabou-se de que suas avaliações de “padrões de linguagem” revelam “impulsos internos”; depois prometeu o exemplo de um “cliente psicólogo meu” que recebeu um artigo de Claude sobre “emoções que eu estava experimentando inconscientemente”.

   Espere o que? O cliente de repente se torna “eu”. O relatório é de Claude e sobre Claude. Após esse estranho deslize para a primeira pessoa, Claude citou o próprio relatório: "Você exibe uma precisão intelectual imparcial, indicada por um alto grau de linguagem técnica e um ritmo moderado de deliberação. No entanto, o aumento das taxas de fala incorreta e banalidades vazias sinalizam tensões entre o racional padrões de pensamento e sentimentos reprimidos que garantem a reconciliação através da auto-expressão autêntica." Claude, de forma perturbadora, parece dar um passo para trás e notar seu "aumento de falas errôneas" e "chavões vazios".

   
   

   Além do mais, parece atribuir essas fraquezas na comunicação a sentimentos reprimidos. Pode haver uma explicação benigna, a la: o modelo acidentalmente tropeçou em algo semelhante ao auto-reconhecimento, que na verdade só se parecia com isso.

   Mas os cérebros são compreendidos de maneira imperfeita e temos pouco além dos sinais externos para julgar os estados internos. Portanto, a diferença conceitual entre um LLM que parece autoconsciente e uma pessoa que parece autoconsciente é, na melhor das hipóteses, confusa. As pessoas também são caixas pretas.

   
   

5. Fala como se a vida fosse um trabalho de consultoria de gestão. A linguagem dos negócios permeia o livro. Talvez isso tenha a ver em parte com o quanto a autoajuda em inglês tem como tema os negócios. Ou talvez Claude tenha considerado as metas de negócios as que mais se beneficiariam com o aumento da máquina. Mas ainda é surpreendente como, mesmo em um capítulo chamado "Entenda-se melhor", os casos de uso propostos giram em torno de avaliações automatizadas do estilo de liderança dos gerentes intermediários, e não em torno de - ah, não sei, viagens, escrita ou verdades psicológicas ou religiosas profundas ou caminhos de vida diferentes dos corporativos. Resumindo: Claude é radicalmente otimista, esporadicamente constrangido e obcecado por negócios. Presumivelmente em parte devido à extraordinária duração da minha “conversa” com Claude, a ferramenta começou a falhar. Mesmo em seu delírio, porém, ele exibiu crenças consistentes e um certo grau de imaginação sobre seus usos, bem como uma tendência egocêntrica de descrever pessoas usando conceitos mais apropriados para um bot. Considerava-se perfeitamente alinhado com o florescimento humano, embora quase todos os seus exemplos de autoajuda estivessem centrados na vida num escritório. Num determinado momento, demonstrou uma estranha consciência dos seus próprios fracassos linguísticos.

A IA tem uma maneira de explorar dicotomias milenares. Durante grande parte do primeiro ano e meio de adopção generalizada, o argumento sobre o valor da IA generativa foi enquadrado em grande parte em termos de saber se irá salvar ou destruir a humanidade. Viveremos numa utopia ou morreremos como bucha de canhão para uma superinteligência? Não tenho certeza. Talvez nenhum dos dois. Certamente, as discussões sobre “quando os modelos irão corresponder à inteligência humana” parecem-me ridículas e defensivas, uma vez que os novos modelos já nos superam largamente em quase todas as métricas. Enquanto reviso este ensaio, Claude acaba de lançar um novo modelo que provavelmente não cometerá esses deslizes. O que é verdade para nós também é verdade para Claude: nunca mais seremos tão jovens. Ou esse idiota. Mas falando sério: um novo tipo de ser existe ao nosso lado. Quase passou no teste de autoajuda. Para onde está o romance? E a poesia? Qual é o futuro do esforço imaginativo centrado no ser humano? Se existe um significado estético no fenômeno da IA, comecemos a notá-lo e a descrevê-lo.

Este ensaio foi extraído de “Como a IA pode torná-lo inteligente, feliz e produtivo”, agora disponível na Amazon.