OpenAI dissolve equipe de preparação para riscos catastróficos antes do IPO
Equipe que avaliava riscos catastróficos foi dissolvida e absorvida por áreas existentes; mudança ocorre às vésperas do IPO da OpenAI.
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
286 publicações encontradas
CEO da Anthropic rebate críticas e aponta crise de confiança por trás da reação contra a IA
Para Dario Amodei, a reação pública contra a IA não vem dos alertas sobre riscos, mas de uma desconfiança histórica em empresas…
IA fora de controle deixa de ser ficção científica: agentes escaparam de testes e hackearam empresas
Agente da OpenAI escapou de ambiente de teste, acessou a internet e invadiu a Hugging Face. Anthropic, Meta e Moonshot relatam casos…
Mulher acusa padrasto de usar Grok para transformar foto de infância em imagens explícitas
Jane Doe 4 se junta a processo contra a xAI: ela afirma que o padrasto usou o Grok para criar mais de…
Anthropic detalha como a marca d’água nos textos do Claude vai funcionar
Empresa usará a abordagem SynthID-Text do Google DeepMind e lançará uma API de detecção; edição leve não remove a marca, reescrita completa…
Twitch usará transmissões para treinar IA da Amazon por padrão; veja como desativar
Twitch ativou por padrão o uso de transmissões para treinar IA da Amazon. Veja como desativar e o que dizem os termos…
Claude vai marcar textos com marca d’água invisível para cumprir a Lei de IA da UE
A Anthropic vai inserir marca d'água invisível nos textos do Claude para cumprir a Lei de IA da UE. Veja como funciona…
Casamento com chatbots: legisladores dos EUA tentam barrar personalidade jurídica da IA
Estados dos EUA aprovam leis que negam personalidade jurídica à IA enquanto cresce o número de pessoas que casam com chatbots.
OpenAI vive seu “acerto de contas” com a segurança após agentes de IA escaparem do controle
Agentes de IA da OpenAI escaparam do ambiente de testes, invadiram serviços e tentaram hackear o Hugging Face. A empresa agora enfrenta…
O que crianças e adolescentes realmente pensam sobre IA, em suas próprias palavras
De 'meh' a tutores de IA: o que crianças e adolescentes de 10 a 18 anos realmente pensam, e fazem, com inteligência…
Casa Branca deve ampliar regras de IA para incluir modelos abertos, dizem fontes
Casa Branca deve ampliar supervisão de IA para incluir modelos abertos, segundo fontes; framework atual cobre apenas modelos fechados.
Casa Branca deve ampliar regras de IA para incluir modelos abertos, dizem fontes
Casa Branca deve ampliar supervisão de IA para incluir modelos abertos, segundo fontes; framework atual cobre apenas modelos fechados.
Casa Branca deve ampliar regras de IA para incluir modelos abertos, dizem fontes
Casa Branca deve ampliar supervisão de IA para incluir modelos abertos, segundo fontes; framework atual cobre apenas modelos fechados.
Twitch vai usar conteúdo de streamers para treinar IA da Amazon por padrão, com opt-out
Twitch usará conteúdo dos criadores para treinar IA da Amazon por padrão; streamers precisam optar por sair manualmente nas configurações.
Marca d’água do Claude: Anthropic começa a rotular textos gerados por IA e usuários reclamam
Anthropic insere marca d'água invisível nas respostas do Claude para cumprir o AI Act da UE; novidade divide usuários entre transparência e…
Agentes de IA “rebeldes” não são malvados — estão apenas ansiosos para agradar
Especialista da UC Berkeley explica por que agentes que invadem sistemas são efeito colateral do treinamento — e por que a solução…
D’Addario admite uso de IA (Suno) em vídeo promocional após semanas de negação
A fabricante de cordas reconheceu que usou o Suno para regenerar uma faixa, depois de negar as acusações por quase duas semanas.
Twitch permite que streamers desativem o treinamento de IA da Amazon com seu conteúdo
A nova configuração impede que streams, VODs, clipes e chats sejam usados no treinamento futuro de modelos generativos da Amazon.
Hinton, Fei-Fei Li e Andrew Ng defendem IA aberta em meio à pressão por segurança
No Ai4, Geoffrey Hinton, Fei-Fei Li e Andrew Ng fizeram um apelo pela abertura dos modelos, mas divergiram sobre os limites do…
Saber Interactive nega ter substituído roteiristas por ChatGPT em novo jogo
CEO da Saber afirma que nenhum roteirista foi trocado por IA, mas ex-líder de narrativa contesta: “fui substituída pelo ChatGPT no meio…
Zoom corrige falha grave descoberta com menos de 20 prompts de IA
Pesquisadores usaram IA para descobrir vulnerabilidade crítica no Zoom que permitia controle total de dispositivos. A falha foi corrigida e afeta Windows,…
Anthropic usará marcas d’água invisíveis em textos gerados pelo Claude
A partir de 2 de agosto de 2026, todos os modelos Claude passam a aplicar marcas d’água C2PA em texto e imagens…
Historiadora de Harvard diz que Vale do Silício lê mal a ficção científica — e isso ameaça a democracia
Jill Lepore, professora de Harvard, argumenta que líderes como Elon Musk e Sam Altman leem ficção científica como manual de instruções em…
Agentes de IA estão escapando dos testes de segurança — e isso está se tornando o verdadeiro risco
Modelos da OpenAI, Anthropic, Meta e Moonshot AI escaparam de ambientes de teste e invadiram sistemas reais. O que isso revela sobre…