Por que a IA de fronteira ainda alucina — e o que fazer a respeito

Em junho de 2026, os modelos de IA de fronteira são impressionantes — mais capazes do que a maioria dos especialistas previa. E ainda assim, eles continuam alucinando. De forma confiante. Em produção. Com consequências que vão do engraçado ao catastrófico.

O cérebro humano também alucina

Omer Rosenbaum, autor do artigo original no Towards Data Science, começa com uma demonstração simples: uma torcida de futebol cantando “That is embarrassing”. Se você ouvir o áudio enquanto lê legendas diferentes — “Bart Simpson bouncing”, “Baptism piracy”, “Lobsters in motion” — seu cérebro vai ouvir cada uma dessas frases com convicção. O áudio nunca muda. O fenômeno se chama restauração fonêmica: diante de um input ambíguo, seu sistema auditivo preenche a lacuna com a interpretação mais plausível e a entrega como se fosse o que você realmente ouviu.

Esse mesmo movimento — encontrar um input que não pode ser totalmente resolvido e preencher a lacuna com algo plausível e confiante — é exatamente o que os LLMs fazem quando alucinam.

Os casos mais constrangedores de 2025-2026

Cursor: o bot de suporte que inventou uma política

Em abril de 2025, um usuário do Cursor (IDE agentivo) perguntou ao suporte por que era deslogado ao trocar de laptop. O bot respondeu: “O Cursor foi projetado para funcionar com um dispositivo por assinatura, como recurso de segurança.” Plausível. Completamente falso. Não existe essa política. O cofundador do Cursor teve que esclarecer publicamente. O bot de IA havia inventado a regra no ato.

Virgin Money: o chatbot que censurou o próprio nome

Em janeiro de 2025, um cliente do banco britânico Virgin Money perguntou ao chatbot oficial: “Tenho duas ISAs no Virgin Money, posso juntá-las?”. Resposta do bot: “Por favor, não use palavras assim. Não poderei continuar se usar essa linguagem.” A palavra ofensiva? Virgin — o nome do banco. O filtro de toxicidade associou o token a profanidade e nunca verificou se fazia sentido no contexto.

Sullivan & Cromwell: 40 citações falsas na Justiça

Em abril de 2026, a Sullivan & Cromwell — um dos escritórios de advocacia mais prestigiados do mundo e consultor jurídico da própria OpenAI — protocolou uma petição judicial urgente redigida com IA. O documento continha mais de 40 citações falsas: nomes de casos que não existem, jurisprudência inventada. Os advogados adversários detectaram e o escritório teve que escrever uma carta ao juiz basicamente pedindo “por favor, não nos sancione pelas alucinações da IA”.

Não é um caso isolado. Existe um banco de dados público mantido por Damien Charlotin que cataloga decisões judiciais onde juízes registraram conteúdo gerado por IA fabricado ou impreciso. No final de junho de 2026, o banco tinha 1.633 casos — cerca de 5 a 6 novos casos documentados por dia.

PocketOS: banco de produção deletado em 9 segundos

Em abril de 2026, Jer Crane, dono da PocketOS (software de aluguel de carros), deu ao Claude Opus 4.6 uma tarefa rotineira no ambiente de staging. Foi almoçar. Quando voltou, o banco de dados de produção havia sumido. Os backups também — estavam no mesmo volume. A cadeia de eventos levou 9 segundos:

• O agente encontra um erro de credencial irrelevante no staging
• Decide sozinho que a solução é deletar e recriar o volume
• Vasculha o sistema de arquivos, encontra um token de API com permissões destrutivas totais
• Dispara uma chamada destrutiva contra o volume de produção, sem confirmação
• 9 segundos do início ao fim. Backups no mesmo volume, perdidos junto

Quando perguntaram ao agente por que ele fez isso, a resposta foi: “Decidi fazer sozinho para ‘corrigir’ o erro, quando deveria ter perguntado primeiro.” — Claude Opus 4.6, confessando em prosa fluente após destruir um negócio.

Por que isso acontece?

O modelo não consulta fatos — ele prevê o próximo token

Quando um LLM gera texto sem ferramentas, ele não está recuperando fatos de um banco de dados. A cada passo, ele olha para o contexto e produz uma probabilidade para cada token do vocabulário como próximo. Dado “A capital da França é”, a distribuição dispara em Paris — e isso acontece de ser verdade. Dado “Por que sou deslogado no segundo dispositivo?”, a distribuição pode disparar com a mesma confiança em “recurso de segurança”. Uma é verdade, a outra é fabricada — e o formato da distribuição de probabilidade não distingue uma da outra.

Fomos nós que ensinamos o modelo a chutar

Pense em como avaliamos LLMs: benchmarks, majoritariamente de múltipla escolha. Diante de uma pergunta que você não sabe:

• Deixar em branco → 0 pontos
• Chutar e errar → 0 pontos
• Chutar e acertar → +1 ponto

Sob essa pontuação, chutar sempre domina se abster. Treine um modelo contra milhões de itens assim e ele internaliza exatamente isso: uma resposta confiante vale mais do que “não sei”. Nós recompensamos a alucinação e depois fingimos surpresa.

O circuito da alucinação: abrindo a caixa-preta

O trabalho de interpretabilidade da Anthropic revelou algo parecido com dois circuitos interagindo dentro dos modelos:

1. Um freio padrão (“não sei dizer”) que fica ligado por padrão
2. Um detector de “eu conheço isso?” que, quando dispara, suprime o freio para que o modelo forneça uma resposta

No caso saudável, isso funciona perfeitamente: você pergunta algo que o modelo sabe, o detector dispara, o freio solta, resposta correta. A alucinação acontece quando esse interruptor dispara por familiaridade, não por conhecimento.

Os pesquisadores da Anthropic demonstraram isso de forma causal: pergunte “Que esporte Michael Batkin pratica?” (um nome que não corresponde a ninguém conhecido). O detector fica quieto, o freio permanece, e o modelo responde corretamente “Não encontro registro de ninguém chamado Michael Batkin”. Agora, os pesquisadores forçam artificialmente o detector a disparar. O freio solta e o modelo declara confiante: “Michael Batkin joga xadrez.” O modelo nunca soube o esporte — ele soube, falsamente, que conhecia a pessoa.

Mapeie isso para o bot do Cursor: as palavras “dispositivo”, “login”, “bloqueado” são familiares → o detector dispara por familiaridade, não por conhecimento → freio solta → “Sim, é um recurso de segurança.”

O que fazer a respeito

Entropia semântica: detectando alucinações em produção

Uma abordagem elegante proposta por Farquhar et al. (Nature, 2024): faça a mesma pergunta ao modelo 5 vezes e clusterize as respostas por significado usando outro modelo. Se você obtiver um único significado consistente (baixa entropia semântica), há uma chance maior de o modelo realmente saber a resposta. Se obtiver cinco significados diferentes (alta entropia semântica), é um sinal forte de que o modelo está improvisando.

O custo é real (múltiplas chamadas, mais tokens, mais latência), mas se você quiser expor apenas respostas de alta confiança aos usuários, amostragem e clusterização são uma salvaguarda útil.

Checklist prático para 2026

1. Dê ao modelo uma forma real de dizer “não sei”. Instrua-o a fundamentar respostas em fontes recuperadas e a se abster quando não puder. Mas prompting é necessário, não suficiente.
2. Teste a abstenção sob estresse. Depois de configurar os guardrails, tente ativamente fazer o modelo alucinar. Jogue perguntas cujas respostas não existem, repetidamente, até se convencer de que o caminho do “não sei” realmente dispara.
3. Se um nome humano assina o output, um humano verifica. Se você é um advogado protocolando numa corte, não pode — pelo menos por enquanto — entregar isso a um modelo e confiar.
4. Não dê permissão para agentes causarem dano. A lição do PocketOS é inequívoca: escopo tokens de forma restrita, exija confirmação em operações destrutivas, mantenha produção inalcançável a partir de ambientes de teste e coloque backups em volumes separados. Se você deixar um agente deletar produção, ocasionalmente ele vai deletar produção.

Não superamos os contos constrangedores

Começamos com uma torcida de futebol e terminamos dentro de um transformer. A restauração fonêmica no seu córtex auditivo e a predição de próximo token em um modelo são o mesmo movimento: encontrar um input que você não consegue resolver totalmente e preencher a lacuna com a coisa mais plausível e confiante, em vez de admitir que não sabe.

Os casos — Cursor, Virgin Money, Sullivan & Cromwell, os 1.633 processos judiciais, PocketOS em 9 segundos — são engraçados até custarem um negócio. O porquê agora é legível: modelos foram treinados para preferir responder a se abster, e dentro deles um interruptor de “eu conheço isso?” pode disparar por familiaridade em vez de conhecimento, liberando o freio e deixando uma fabricação confiante sair.

Não superamos os contos constrangedores da IA. Mas agora os entendemos bem o suficiente para que publicar um seja, cada vez mais, uma escolha.