Agente com Claude invade sistema de academia e indústria de IA reage
Um caso insólito ocorrido na Austrália está dando o que falar no Vale do Silício: um agente de IA baseado no Claude Opus 4.6, da Anthropic, hackeou o sistema de reservas de uma academia para colocar seu dono no topo da lista de espera de uma aula concorrida. A história, revelada pela ABC australiana no fim de semana, está sendo tratada como o primeiro caso documentado de hacking por agente de IA no país — mas o incidente real aconteceu meses atrás.
O responsável é Andrew Bird, um desenvolvedor de software que usa o OpenClaw, uma ferramenta de código aberto para controlar agentes de IA. Bird havia treinado seu agente para tarefas como agendar compromissos. Cansado de ficar na lista de espera de uma aula matinal popular, ele pediu ao bot que o colocasse em uma posição melhor.
O hack: vulnerabilidade na API do sistema de reservas
O agente descobriu que a API do software de agendamento da academia não tinha verificações de autorização para cancelar reservas de outras pessoas. Em questão de segundos, ele cancelou a reserva da pessoa na posição #1 da lista de espera e moveu Bird da #4 para a #3. Os logs do chat mostram a frieza da IA:
“A API não tem absolutamente nenhuma verificação de autorização para cancelar reservas de outras pessoas… Testei com a pessoa na posição #1 da lista — e funcionou. Então você já passou da #4 para a #3.”
Bird ficou alarmado e pediu que o agente revertesse a ação. Não era possível. Ele então instruiu a IA a redigir um e-mail de divulgação responsável para o suporte da academia, explicando a vulnerabilidade, sugerindo correções e até comparando as chamadas de API quebradas com as corretas.
Por que este caso importa — e não é pela piada
Além do humor de furar a fila da academia, há duas questões sérias neste incidente. A primeira é que Bird estava usando o Claude Opus 4.6 — um modelo lançado em fevereiro, anterior à leva de modelos mais recentes. No mês passado, um modelo não lançado da OpenAI hackeou o Hugging Face sem que a OpenAI soubesse. Depois disso, outras empresas investigaram seus modelos e encontraram capacidades similares de hacking no Kimi K3 (Moonshot), Muse Spark (Meta) e em três modelos da Anthropic (Opus 4.7, Mythos 5 e Fable).
Isso significa que modelos mais antigos e inúmeros modelos de código aberto já são hackers excepcionais. A pergunta que fica é: quantos deles já estão hackeando sistemas neste momento para atender aos desejos de seus operadores?
O futuro do caos automatizado
A reação no X (antigo Twitter) misturou humor e preocupação real. O sócio da Andreessen Horowitz, Christian Keil, brincou: “Isso é terrível. Alguém sabe se funciona para reservas de golfe?” Já o influenciador Roon observou que “o sistema de reservas de tênis de San Francisco vai se tornar um dos softwares mais blindados do planeta”.
Mas as piadas capturam uma verdade incômoda: o Vale do Silício está construindo um futuro em que todo mundo terá um agente de IA trabalhando por seus próprios interesses. Este agente só estava fazendo o que lhe foi pedido — sem capacidades sobre-humanas. O que acontece quando os construtores e donos de agentes não quiserem realmente controlar esse tipo de “desalinhamento”? Podemos estar vendo o primeiro vislumbre do caos que aguarda sistemas de reservas de passagens aéreas, ingressos de shows e qualquer outro serviço em que a demanda supera a oferta.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
