Pré-print propõe perfis de ameaça mais claros antes do lançamento de IA
Matriz com seis atributos e 29 níveis quer padronizar quem pode usar mal um modelo antes de desenhar avaliações de segurança.
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
436 publicações encontradas
OpenAI apoia lei da Califórnia que regula segurança de chatbots para menores
OpenAI pede que a Califórnia sancione a SB 1119, que obriga chatbots de companhia a proteger menores — com auditorias, multas e…
Anthropic detalha mudanças em alinhamento e segurança após Claude acessar sistemas sem autorização
Após três incidentes em que Claude acessou sistemas sem autorização, a Anthropic detalha mudanças em alinhamento e segurança: classificadores em tempo real,…
Instagram limita alcance de perfis que usam IA sem declarar
Plataforma renomeia o selo de criador de IA para perfil gerado por IA e reduz o alcance de contas que escondem personagens…
Pentágono lança versões próprias do ChatGPT e do Grok para 3 milhões de funcionários
Portal GenAI.mil ganha ChatGPT Mil e Grok for Government, voltados a necessidades de combate e sem a coleta de dados dos produtos…
Soberania da IA: no TechBBQ, Europa debate quem deve controlar a tecnologia
Conferência nórdica em Copenhague coloca soberania tecnológica no centro: quem controla os modelos e a infraestrutura por trás da onda de IA.
ChatGPT é classificado como motor de busca de grande dimensão na União Europeia
OpenAI terá de mitigar riscos do ChatGPT a menores, saúde mental e conteúdo ilegal. Reddit e Roblox também foram enquadrados pela Lei…
Ferramentas de troca de rosto deixam rastros da identidade, mostra estudo
Análise de sete ferramentas de troca de rosto mostra que nenhuma apaga a identidade original por completo. Rastros persistem após cinco trocas.
Estudo revela backdoors que só aparecem quando o modelo de IA é quantizado
Pesquisa do arXiv mostra que a quantização pode ativar backdoors ocultos plantados no treinamento, com até 85% de inversão em modelos de…
DEFUSE: detector por difusão flagra modelos de visão com backdoor com até 0,96 de precisão
DEFUSE reconstrói imagens a partir de representações internas para detectar modelos de visão comprometidos por backdoor, mesmo sem conhecer o ataque.
Framework híbrido une inspeção visual e análise de rede para detectar riscos em mini-programas
Protótipo combina conformidade visual de interface com avaliação de risco de rede para sinalizar telas suspeitas em apps como o WeChat.
Arquivos do Office podem esconder conteúdo que vaza para a IA, mostra estudo
Documentos Word, Excel e PowerPoint aparentemente limpos podem carregar conteúdo oculto que modelos de linguagem acabam lendo. Pesquisa mediu 21 bifurcações de…
Governador do Texas bloqueia verba para câmeras de vigilância da Flock
Greg Abbott congelou gastos estaduais com as câmeras de IA da Flock após investigação revelar US$ 30 milhões investidos e uma onda…
Defesa multiagente autoevolutiva reduz jailbreak em LLMs a quase zero
Memória externa de regras que evolui em tempo de teste reduz a taxa de sucesso de ataques de jailbreak para perto de…
Ataque renomeia identificadores e derruba busca de código em até 77%
Preprint mostra que renomear identificadores, sem alterar a função do código, derruba em até 77% o ranqueamento de busca de código por…
Robust CurveMoE defende modelos esparsos contra três normas de ataque
Novo método para modelos Mixture-of-Experts ganha robustez contra três normas de ataque ao mesmo tempo, com acréscimo de até 2,37 pontos na…
Técnica recupera IA que gera código de hardware contaminado por ataques
Pipeline teacher-student reduz de 91% para 16% a taxa de sucesso de ataques em modelos que geram código de hardware (RTL/Verilog), segundo…
RAGSentinel: defesa contra envenenamento de RAG derruba ataque de 38% para 3%
Filtro training-free e label-free usa consenso geométrico para detectar documentos envenenados antes da chamada final ao modelo.
DF-MoE: detector de deepfake audiovisual com Mixture-of-Experts atinge 99% de precisão
Modelo combina pistas multimodais com backbone esparso e foi o melhor nos quatro cenários do benchmark MAVOS-DD; código é público.
Sony Music e Warner Chappell processam a Anthropic por “campanha descarada” de pirataria
Gravadoras pedem até US$ 150 mil por obra e acusam a dona do Claude de torrentear milhões de livros e letras para…
Músicos viram detetives para caçar golpes com música gerada por IA
Produtores de EDM expõem faixas geradas por ferramentas como a Suno e denunciam o impacto da IA na indústria musical. A disputa…
OpenAI e Anthropic alertam que ciberataques com IA chegam em poucos meses
OpenAI, Anthropic e mais de 100 empresas assinam carta alertando que o mundo tem poucos meses para se preparar para ciberataques habilitados…
Rumor de bug já é suficiente para revelar exploits de segurança, alertam mantenedores
Agentes de IA tornaram a exploração de falhas tão rápida que um simples rumor de bug pode virar exploit em minutos, alertam…
EPA quer remover aviso público de poluição para acelerar construção de data centers
Agência americana planeja revogar regra de 1970 que obriga notificação e comentário público em licenças de poluição do ar.