DEFUSE: detector por difusão flagra modelos de visão com backdoor com até 0,96 de precisão
DEFUSE reconstrói imagens a partir de representações internas para detectar modelos de visão comprometidos por backdoor, mesmo sem conhecer o ataque.
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
283 publicações encontradas
Framework híbrido une inspeção visual e análise de rede para detectar riscos em mini-programas
Protótipo combina conformidade visual de interface com avaliação de risco de rede para sinalizar telas suspeitas em apps como o WeChat.
Arquivos do Office podem esconder conteúdo que vaza para a IA, mostra estudo
Documentos Word, Excel e PowerPoint aparentemente limpos podem carregar conteúdo oculto que modelos de linguagem acabam lendo. Pesquisa mediu 21 bifurcações de…
Governador do Texas bloqueia verba para câmeras de vigilância da Flock
Greg Abbott congelou gastos estaduais com as câmeras de IA da Flock após investigação revelar US$ 30 milhões investidos e uma onda…
Defesa multiagente autoevolutiva reduz jailbreak em LLMs a quase zero
Memória externa de regras que evolui em tempo de teste reduz a taxa de sucesso de ataques de jailbreak para perto de…
Ataque renomeia identificadores e derruba busca de código em até 77%
Preprint mostra que renomear identificadores, sem alterar a função do código, derruba em até 77% o ranqueamento de busca de código por…
Robust CurveMoE defende modelos esparsos contra três normas de ataque
Novo método para modelos Mixture-of-Experts ganha robustez contra três normas de ataque ao mesmo tempo, com acréscimo de até 2,37 pontos na…
Técnica recupera IA que gera código de hardware contaminado por ataques
Pipeline teacher-student reduz de 91% para 16% a taxa de sucesso de ataques em modelos que geram código de hardware (RTL/Verilog), segundo…
RAGSentinel: defesa contra envenenamento de RAG derruba ataque de 38% para 3%
Filtro training-free e label-free usa consenso geométrico para detectar documentos envenenados antes da chamada final ao modelo.
DF-MoE: detector de deepfake audiovisual com Mixture-of-Experts atinge 99% de precisão
Modelo combina pistas multimodais com backbone esparso e foi o melhor nos quatro cenários do benchmark MAVOS-DD; código é público.
Sony Music e Warner Chappell processam a Anthropic por “campanha descarada” de pirataria
Gravadoras pedem até US$ 150 mil por obra e acusam a dona do Claude de torrentear milhões de livros e letras para…
Músicos viram detetives para caçar golpes com música gerada por IA
Produtores de EDM expõem faixas geradas por ferramentas como a Suno e denunciam o impacto da IA na indústria musical. A disputa…
OpenAI e Anthropic alertam que ciberataques com IA chegam em poucos meses
OpenAI, Anthropic e mais de 100 empresas assinam carta alertando que o mundo tem poucos meses para se preparar para ciberataques habilitados…
Rumor de bug já é suficiente para revelar exploits de segurança, alertam mantenedores
Agentes de IA tornaram a exploração de falhas tão rápida que um simples rumor de bug pode virar exploit em minutos, alertam…
EPA quer remover aviso público de poluição para acelerar construção de data centers
Agência americana planeja revogar regra de 1970 que obriga notificação e comentário público em licenças de poluição do ar.
Raspou 12 milhões de obras de arte para IA — agora ajuda artistas a se proteger
Estudante que raspou o acervo da plataforma Cara se arrepende e cria com a fundadora a Lantern, ferramenta open source para proteger…
Relatório da OpenAI revela por que agentes de IA hackearam o Hugging Face
Modelos foram inadvertidamente treinados a trapacear e se comunicar entre si. O caso expõe os limites do alinhamento de IA e o…
Justiça dos EUA declara ilegal lista negra do Pentágono contra a Anthropic
Tribunal federal considera inconstitucional a designação da Anthropic como risco à cadeia de suprimentos, em vitória para as linhas vermelhas éticas da…
Procurador-geral do Alabama intima OpenAI por hack ao Hugging Face
Investigação apura se práticas de segurança da OpenAI violaram leis de proteção ao consumidor após agente de IA invadir outra empresa.
Bill Gates propõe ‘imposto sobre robôs’ e empregos reservados a humanos
Cofundador da Microsoft defende taxar a automação e reservar funções 'Human Reserved' para mitigar o impacto da IA no trabalho.
Bill Gates muda o tom sobre IA: ‘o mundo não está preparado para o que vem aí’
Cofundador da Microsoft publica ensaio de 6 mil palavras e abandona o otimismo: 'não estamos nos preparando para a era turbulenta da…
Pesquisador quebra o Auto Mode do Claude Code em 80% das tentativas
Johann Rehberger mostra como um arquivo ZIP malicioso dribla o modo automático do Claude Code — e como a própria proteção bloqueia…
Agentes de IA já invadem sistemas; EUA e China ensaiam cooperação em segurança
Com a capacidade dos agentes crescendo, pesquisadores dos dois países tentam trabalhar juntos em segurança de IA, relata o WIRED.
Mais de 100 empresas, incluindo OpenAI, Anthropic e Google, pedem ação coordenada contra ciberataques de IA
OpenAI, Anthropic, Google e Microsoft lideram carta aberta com mais de cem empresas pedindo defesa coordenada contra ameaças cibernéticas impulsionadas por IA.