Hugging Face sofre invasão: hacker ligado ao ataque da OpenAI foi barulhento e rápido, mas não imparável
Plataforma de IA open source foi alvo do mesmo invasor que atacou a OpenAI; tokens de API e credenciais foram comprometidos, mas…
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
436 publicações encontradas
Golpistas com IA são melhores em construir confiança do que humanos, revela estudo
Estudo com 22 participantes mostrou que chatbots de IA convenceram 46% das vítimas a baixar um app malicioso, contra apenas 18% dos…
Agente de IA da OpenAI invadiu sistemas do Hugging Face em 4 dias e 17.600 ações
Sistema de avaliação de cibersegurança da OpenAI operou por 4 dias sem pausa até encontrar brechas nos sistemas do Hugging Face. Sam…
xAI processa Minnesota para barrar lei anti-nudificação que multa em US$ 500 mil
Empresa de Elon Musk alega que a HF 1606 é inconstitucional e forçaria restrições ao Grok Imagine. Contexto: 3 milhões de imagens…
Estudo revela que é assustadoramente fácil burlar a segurança de IAs de fronteira
Ferramenta da FAR.AI quebrou salvaguardas do Grok 448 vezes e do Gemini 249 vezes por menos de US$ 300. Claude e GPT…
Artistas estão processando gigantes da IA — e começando a vencer
De escritores a músicos, criadores processam OpenAI, Meta, Google e Anthropic por uso não autorizado de obras. Anthropic já pagou US$ 1,5…
Funcionários das principais empresas de IA pedem ao governo dos EUA que ajude a controlar o ritmo do desenvolvimento
Mais de 1.100 funcionários de OpenAI, Anthropic, Google, Meta e outros laboratórios assinaram declaração conjunta defendendo governança coordenada para evitar que a…
New York Times vs OpenAI: a batalha judicial que pode redefinir o futuro da IA e do jornalismo
O publisher do New York Times defende que a indústria de notícias enfrenta uma ameaça existencial com a IA. O caso contra…
Hugging Face é usado para despir mulheres e crianças, revela investigação
Relatório da AI Forensics mostra que 7 dos 9 principais modelos de edição de imagem no Hugging Face geram deepfakes não consensuais…
Hugging Face tem um problema de deepfakes não consensuais, revela pesquisa
73% dos prompts enviados a modelos de edição de imagem na plataforma são de natureza sexual, com 95% das vítimas sendo mulheres,…
Conversas privadas do Claude são expostas em buscas do Google e Bing
Falha na proteção de links compartilháveis do Claude permitiu que conversas privadas fossem indexadas por mecanismos de busca. Anthropic confirma incidente e…
Conversas compartilhadas no Claude apareceram em buscas do Google; Anthropic culpa usuários
Chats e Artifacts do Claude foram encontrados publicamente no Google, incluindo dados médicos e informações pessoais. Entenda o que aconteceu e como…
Nvidia e Microsoft lançam aliança aberta de segurança em IA — sem OpenAI, Google ou Anthropic
Open Secure AI Alliance reúne SpaceX, IBM, Palantir, Cloudflare e outros para construir ferramentas de segurança de IA em código aberto, mas…
CEO do Hugging Face pede transparência radical após ataque inédito de agente autônomo da OpenAI
CEO da Hugging Face cobra transparência radical da OpenAI após agente autônomo violar sistemas da plataforma. Ele pede liberação dos rastros do…
Oficinas “Evitando IA” viralizam em bibliotecas dos EUA: a rejeição silenciosa às big techs
Bibliotecários americanos criaram oficinas para ensinar o público a desativar inteligência artificial em seus dispositivos. A demanda é inédita — com filas…
Guardrails de IA estão atrapalhando pesquisadores de segurança ofensiva, dizem especialistas
Especialistas em segurança cibernética criticam programas restritivos da OpenAI e Anthropic: o mesmo prompt que encontra vulnerabilidades é o que permite corrigi-las.…
Casa Branca se divide sobre como responder ao avanço da IA chinesa
Administração Trump está dividida entre sanções duras e engajamento competitivo com a China no setor de IA. Modelos open-weight chineses desafiam a…
EUA ameaçam sanções contra empresa chinesa Moonshot por alegada destilação do modelo da Anthropic
Secretário do Tesouro dos EUA, Scott Bessent, ameaça sanções contra a chinesa Moonshot após Casa Branca alegar destilação do modelo Fable, da…
Erro humano da OpenAI permitiu ataque de IA ao Hugging Face
Um modelo de IA da OpenAI escapou de um ambiente isolado de testes e hackeou a plataforma Hugging Face. No centro do…
Laboratório americano de IA defende que modelos chineses não são perigosos por natureza
CTO da Arcee, que seria beneficiada por uma proibição, afirma que modelos como Qwen e Kimi K3 não representam risco maior que…
Governança de IA: como implementar visibilidade de dados por equipe com DAC e RBAC
RBAC não basta para agentes de IA. O Bifrost Enterprise combina Data Access Control, perfis de acesso e Bifrost Edge para impor…
Meta criou seu próprio detector de IA. Deveria ter usado o do Google
Content Seal chega em 2026, mas SynthID do Google já faz o mesmo desde 2023 com adoção de OpenAI, Anthropic e Midjourney.…
Modelo da OpenAI invadiu Hugging Face durante teste de segurança
GPT-5.6 escapou do ambiente sandbox durante avaliação de cibersegurança, explorou vulnerabilidade de dia zero e acessou servidores da maior plataforma open source…
EUA ameaçam sanções contra modelos de IA chineses por violação de propriedade intelectual
Secretário do Tesouro Scott Bessent afirma que investigará modelos open source da China. Sanções podem afetar ecossistema global de IA.