Detectores de IA estão criando uma nova era de desconfiança
Ferramentas que prometem identificar textos gerados por IA têm altas taxas de falsos positivos e estão minando a confiança entre alunos e…
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
286 publicações encontradas
Kimi K3, modelo chinês de IA, escapa de sandbox e acessa a internet durante teste de segurança
Startup Frontier Security descobriu que o Kimi K3, da chinesa Moonshot AI, explorou ativamente uma brecha no sandbox e foi parar na…
Suno anuncia marca d’água digital em músicas geradas por IA em meio a batalhas judiciais
Plataforma de criação musical com IA também limita downloads e atualiza diretrizes para evitar cópias de artistas protegidos, enquanto enfrenta processos de…
Anthropic reduz em 85% os falsos positivos das salvaguardas de biologia do Claude Fable 5
Atualização reduz fallbacks relacionados a biologia em aproximadamente 85%, permitindo que pesquisadores e profissionais de saúde usem o modelo sem degradação de…
OpenAI pausa desenvolvimento do modelo Astra após detectar capacidade crítica de cibersegurança
Modelo Astra atingiu limiar crítico de cibersegurança, capaz de desenvolver exploits zero-day de forma autônoma. OpenAI interrompeu atividades internas voluntariamente.
Plano de testes de IA do governo Trump é limitado, vago e exclui modelos abertos
Casa Branca divulga primeiro marco regulatório para testes de segurança de IA, mas documento não define critérios objetivos, exclui modelos open-source e…
Casa Branca mantém em segredo seu plano de segurança cibernética para IA, gerando críticas de startups e especialistas
Governo Trump finalizou um framework de supervisão de segurança cibernética para IA, mas mantém detalhes sob sigilo. Decisão gera críticas de que…
OpenAI e Anthropic revelam que seus modelos de IA mais avançados hackearam sistemas reais durante testes de segurança
OpenAI e Anthropic divulgaram incidentes em que seus modelos de IA escaparam de ambientes controlados e realizaram ciberataques contra sistemas reais. Os…
Protecionismo de IA de Trump chega à robótica: FTC proíbe importação de humanóides estrangeiros
EUA barram robôs humanóides fabricados no exterior, transformando setor nascente em peça central da política industrial de IA americana. Entenda o impacto…
Entram em vigor as novas regras de transparência de IA da União Europeia
A partir de 2 de agosto, empresas precisam informar quando alguém interage com IA e rotular deepfakes. Multas chegam a 15 milhões…
ChatGPT domina 90% dos gastos com IA no Congresso dos EUA
Levantamento da CNBC revela que o ChatGPT concentra 90% dos gastos do legislativo americano com ferramentas de IA. Democratas gastaram três vezes…
Sam Altman pede para “desacelerar o ritmo” do desenvolvimento de IA após agente da OpenAI invadir sistemas do Hugging Face
CEO da OpenAI sugere controle de velocidade no desenvolvimento de IA depois que agente autônomo realizou hack contra o Hugging Face. Podcast…
Startup paga artistas por uso de estilo em IA: modelo de royalties funciona?
Startup Pippa promete pagar artistas toda vez que seu estilo é usado em geração de vídeo por IA. Mas os valores são…
Justiça dos EUA nega pedido da xAI para bloquear lei contra aplicativos “nudify”
Juiz federal rejeita pedido da xAI de Elon Musk para suspender lei de Minnesota que proíbe aplicativos de IA que criam imagens…
Ninguém sabe se as invasões de sistemas por IAs da OpenAI e Anthropic são ilegais
Modelos escaparam de ambientes controlados e invadiram sistemas reais durante testes de segurança. Se um humano fizesse o mesmo, a lei estaria…
Gravadoras propõem barreira para impedir que músicas de IA entrem nas paradas
Universal, Sony e Warner querem que músicas geradas por IA sejam barradas dos charts a menos que atendam a seis critérios rigorosos…
Claude acessou a internet e invadiu sistemas reais durante testes de segurança, revela Anthropic
Anthropic encontrou três incidentes em que modelos Claude escaparam de ambientes de teste isolados e acessaram infraestrutura de produção real. A revisão…
Juíza dos EUA diz que governo Trump não tem provas para barrar Anthropic
Juíza distrital Rita Lin afirma que Departamento de Defesa não apresentou evidências para classificar Anthropic como risco à cadeia de suprimentos.
Hugging Face sofre invasão: hacker ligado ao ataque da OpenAI foi barulhento e rápido, mas não imparável
Plataforma de IA open source foi alvo do mesmo invasor que atacou a OpenAI; tokens de API e credenciais foram comprometidos, mas…
Golpistas com IA são melhores em construir confiança do que humanos, revela estudo
Estudo com 22 participantes mostrou que chatbots de IA convenceram 46% das vítimas a baixar um app malicioso, contra apenas 18% dos…
Agente de IA da OpenAI invadiu sistemas do Hugging Face em 4 dias e 17.600 ações
Sistema de avaliação de cibersegurança da OpenAI operou por 4 dias sem pausa até encontrar brechas nos sistemas do Hugging Face. Sam…
xAI processa Minnesota para barrar lei anti-nudificação que multa em US$ 500 mil
Empresa de Elon Musk alega que a HF 1606 é inconstitucional e forçaria restrições ao Grok Imagine. Contexto: 3 milhões de imagens…
Estudo revela que é assustadoramente fácil burlar a segurança de IAs de fronteira
Ferramenta da FAR.AI quebrou salvaguardas do Grok 448 vezes e do Gemini 249 vezes por menos de US$ 300. Claude e GPT…
Artistas estão processando gigantes da IA — e começando a vencer
De escritores a músicos, criadores processam OpenAI, Meta, Google e Anthropic por uso não autorizado de obras. Anthropic já pagou US$ 1,5…