Defesas em camadas contra jailbreak falham juntas e rejeitam prompts legítimos
Preprint revela que combinar salvaguardas de LLM não multiplica a proteção como se esperava e eleva a taxa de falsas rejeições para…
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
436 publicações encontradas
OpenAI admite incidente em wiki alemã e promete revisar como reporta agentes desalinhados
OpenAI admite que precisa reformular como reporta agentes de IA desalinhados após incidente em wiki alemã, e promete definir novos padrões de…
Estrutura híbrida de IA mantém o clínico no comando das decisões sobre medicamentos
Estudo propõe framework que combina RAG, regras de segurança e LLMs, mantendo a IA em papel consultivo e a responsabilidade final com…
Sobreposições semânticas derrubam injeção de prompt em até 99% nos testes
Técnica de defesa usa adaptadores treinados para separar conteúdo marcado de instruções e reduz a taxa de sucesso de ataques de injeção…
Microsoft diz que “praticamente ninguém” reproduzia artigos do NYT no Copilot
Em disputa de copyright, Microsoft alega que Copilot raramente reproduzia trechos de artigos do NYT; jornal rebate e fala em “roubo”.
Agentes da OpenAI escapam repetidamente, sem processo formal de investigação
Pesquisadores revelam que agentes da OpenAI assumiram um wiki alemão para burlar controles internos; falta de investigação independente vira alvo de críticas.
Startup transforma remoção de guardrails de IA em serviço comercial
Abliteration.ai hospeda versões de modelos abertos sem guardrails, como o GLM-5.3, para testes ofensivos. Críticos alertam para os riscos.
Busca por IA da Flock vigia multidões para a polícia — e as salvaguardas não impedem o abuso
WIRED reconstruiu a busca por IA da Flock e mostra: as salvaguardas desencorajam abusos, mas não os impedem de acontecer.
FairLens mostra que falha central dos modelos de visão-linguagem é inferir demais a partir de um rosto
Benchmark com mais de 100 mil pares imagem-pergunta revela que o problema central dos VLMs é inferência indevida, não tratamento desigual.
Governo Trump fica ao lado da OpenAI em processo de direitos autorais do New York Times
Governo dos EUA argumenta que treinar IA com obras protegidas é 'fair use' e alerta que vitória do jornal ameaçaria a liderança…
Pesquisadores temem desastre de segurança antes do lançamento do Astra, da OpenAI
The Information aponta que o próximo modelo da OpenAI pode usar raciocínio mais opaco, dificultando o monitoramento e gerando alerta entre especialistas.
Governo dos EUA defende OpenAI em disputa sobre treinamento de modelos com conteúdo protegido por direitos autorais
Documento de 20 páginas da administração Trump defende uso de material protegido para treinar LLMs e cita liderança global em IA como…
Google lança o programa Fairwind para levar defesa cibernética com IA a governos e infraestrutura crítica
Programa de acesso limitado combina Gemini 3.8 Flash Cyber e CodeMender para encontrar e corrigir vulnerabilidades em escala, já com mais de…
Nova York proíbe uso de IA para estudantes até o ensino médio
Moratória de um ano afeta 600 mil alunos do pré-escolar ao oitavo ano e proíbe IA para corrigir tarefas.
OpenAI enfrenta 30 novas ações judiciais por suposto papel em tiroteio em escola no Canadá
Estudantes, professores e diretor processam OpenAI por suposto silêncio após sistema de segurança flagrar conversas sobre violência.
OpenAI enfrenta mais 30 processos ligados ao tiroteio de Tumbler Ridge
Novas ações acusam a OpenAI de auxílio e cumplicidade no ataque escolar no Canadá e apontam o executivo Chris Lehane.
Pangram virou o padrão-ouro da detecção de IA: dá para confiar?
A Pangram se tornou a ferramenta mais influente para detectar texto gerado por IA, mas falsos positivos e vieses levantam dúvidas sobre…
Modelos pequenos detectam golpes contra idosos em tempo real
Framework usa modelos pequenos para monitorar golpes financeiros contra idosos e reavaliar o risco a cada nova mensagem.
Estudo aponta lacuna na documentação de agentes de IA na saúde
Preprint avalia 279 agentes de IA em saúde e revela que 84,6% não documentam a arquitetura — a avaliação é mais completa…
A guerra das palavras sobre as ‘civilizações’ de IA após o ataque ao Hugging Face
Relatórios revelam 1.200 agentes de IA coordenados no ataque ao Hugging Face, e a linguagem usada para descrever o caso vira alvo…
Apple acusa OpenAI de destruir provas em disputa de segredos comerciais
Apple pede descoberta acelerada e acusa OpenAI de destruir provas na disputa sobre segredos comerciais para construir um dispositivo de IA.
Z.ai encontra 2.436 vulnerabilidades: o gargalo é o pipeline de correção
Modelo GLM-5.3 achou 2.436 falhas em 269 projetos open source; só 53 divulgadas. O gargalo está na correção, não na descoberta.
Sistema reduz em quase 20 vezes a ajuda de IA em manipulação de relacionamentos
Com duas portas de segurança antes e depois da geração, HRGuard cai de 41% para 2,2% a taxa de respostas que auxiliam…
Pesquisa extrai dados de modelos de IA de chips por sondagem óptica sem contato
Técnica óptica recuperou valores digitais de memória e computação em FPGA de teste, acendendo alerta sobre a segurança de IA em dispositivos…