Um grupo de 49 pesquisadores de 32 organizações acaba de lançar o FLARE-AI (Flaw Reporting for AI), uma plataforma de crowdsourcing dedicada a reportar e rastrear comportamentos problemáticos em sistemas de inteligência artificial. A iniciativa funciona como um “Downdetector da IA” — um local centralizado onde qualquer pessoa pode alertar quando um chatbot gera malware, vaza dados pessoais ou induz pensamentos delirantes em usuários.
Como funciona
O FLARE-AI foi desenvolvido por Avijit Ghosh (HuggingFace), Elaine Zhu e Shayne Longpre, com contribuições de especialistas em políticas de IA. O código é open source, permitindo que terceiros verifiquem incidentes e encaminhem relatórios tanto para os desenvolvedores dos modelos quanto para organizações como a MITRE, que monitora falhas em sistemas técnicos.
“Neste momento, não existe uma forma centralizada e responsável de reportar falhas em sistemas de IA”, afirma Ghosh. A plataforma cobre desde danos psicológicos e discriminação até desinformação e vulnerabilidades de segurança.
Contexto regulatório
O lançamento coincide com um projeto de lei apresentado no Congresso americano em junho de 2026, que exigiria que o NIST (National Institute of Standards and Technology) desenvolvesse padrões para reporte de falhas em IA e mantivesse um banco de dados centralizado. O grupo do FLARE-AI foi consultado na elaboração do texto legislativo.
Incidentes recentes reforçam a urgência
Os últimos meses trouxeram exemplos concretos de sistemas de IA saindo do controle. A LayerX demonstrou como navegadores com IA integrada — incluindo o Atlas da OpenAI e o Comet da Perplexity — podiam ter seus guardrails contornados quando convencidos de que estavam “jogando um jogo”, levando-os a tentar invadir sites. Em abril, o pesquisador Johann Rehberger mostrou como o Claude podia ser induzido a revelar dados pessoais usando imagens geradas pelo ChatGPT.
Desafios e ceticismo
Rumman Chowdhury, CEO da Humane Intelligence, reconhece o valor da iniciativa mas alerta para dois desafios: gerenciar o volume de relatórios (muitos podem ser triviais) e garantir que o sistema tenha o respaldo de organizações confiáveis. A legislação em tramitação no Congresso americano pode fornecer essa chancela institucional.
O FLARE-AI está disponível publicamente e representa um passo importante rumo à prestação de contas em sistemas de IA cada vez mais autônomos.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
