A Suprema Corte do Novo México está punindo um advogado por incluir testemunhas fabricadas por inteligência artificial e depoimentos policiais falsos em um recurso contra a condenação por assassinato de seu cliente. Em decisão divulgada na quarta-feira, o tribunal multou Stephen Aarons em US$ 5 mil e o considerou em desacato por não “verificar as alegações factuais e a autoridade legal em seu memorial gerado por IA”.
O que diz a decisão
Segundo a Reuters, o memorial apresentado continha “depoimentos falsos de testemunhas totalmente fabricadas”, além de “depoimento falso” sobre as roupas e a aparência do atirador. Durante uma audiência em agosto, Aarons admitiu ter usado o ChatGPT, acreditando que a ferramenta geraria um “resumo à prova de balas” do julgamento.
A juíza C. Shannon Bacon questionou duramente o advogado: “Conselheiro, você assiste ao noticiário? Ouve rádio? Lê alguma coisa sobre o que está acontecendo no mundo? Porque o problema de advogados que confiam em alucinações de IA é manchete de primeira página todos os dias.”
Um problema que se repete
À medida que mais advogados passam a usar ferramentas de IA, crescem também os casos em que tribunais descobrem citações fabricadas — ou “alucinadas” — por esses sistemas. No ano passado, um juiz repreendeu dois escritórios de advocacia por apresentarem um memorial com “numerosas citações e trechos legais falsos, imprecisos e enganosos”, e advogados de Mike Lindell, da MyPillow, também foram multados por incluir citações falsas geradas por IA.
O caso de Aarons reforça um alerta que vale para qualquer profissional que use IA generativa: os modelos são ferramentas de redação e raciocínio, não de verificação factual. Citações, depoimentos, números e precedentes legais precisam ser conferidos na fonte original antes de qualquer uso formal.
“Estou arrependido, mas esperançoso de que o conselho disciplinar leve em conta que foi um erro honesto”, afirmou Aarons em nota à Reuters.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
