O que o SHAP não explica: o novo limite da explicabilidade na fraude por agentes de IA
Fraude por agentes de IA expõe o limite do SHAP: ele explica por que uma transação parece errada, mas não por que…
Categoria: Regulamentação e Ética
Leis de IA, segurança, privacidade, alinhamento e governança
436 publicações encontradas
OpenAI quer saber se desacelerar a indústria de IA seria legal
Líderes de IA querem coordenar uma pausa no desenvolvimento por segurança, mas a lei antitruste dos EUA pode virar um obstáculo inesperado.
Anthropic detalha campanhas de destilação da Alibaba, Moonshot AI e DeepSeek
Relatório da Anthropic revela quase 200 milhões de trocas ligadas a ataques de destilação atribuídos a Alibaba, Moonshot AI e DeepSeek.
O manual que as big techs usaram para dominar as escolas — e que a IA repete agora
No livro Coding Kids, a jornalista Natasha Singer mostra como a indústria de IA repete a estratégia que as big techs usaram…
Matemáticos exigem que OpenAI prove que não usou seus trabalhos em treinamento
Segundo pesquisador acusa empresa de 'desonestidade' após avanço em grupos não-soficos. Caso expõe pressão por transparência sobre dados de treinamento.
Clearview AI testa ferramenta que monta perfis completos de pessoas para a polícia
Chamada de InquiryIQ, a ferramenta experimental varre a web automaticamente para montar perfis com empregadores, apelidos e características físicas.
Agentes de IA inundam serviços públicos com novos pedidos, aponta pesquisa
Reclamações ao ombudsman britânico mais que dobraram desde o ChatGPT; CFPB dos EUA viu crescimento de 5x. Fenômeno foi batizado de 'agentic…
OpenAI coloca Paul Christiano, nome central do alinhamento, em seu conselho
Pesquisador influente dedicado a manter a IA alinhada aos interesses humanos entra para o conselho da OpenAI Foundation em meio a escrutínio.
San Francisco ordena Meta a parar anúncios de IA com abuso sexual infantil
Procurador de San Francisco exige que a Meta explique como mais de 350 anúncios com menores em vídeos sexuais gerados por IA…
Apple Watch normaliza a ideia de uma tecnologia sempre ouvindo
Live Rewind e Siri Recap trazem transcrição e resumo de conversas ao relógio da Apple, reabrindo o debate sobre consentimento e privacidade.
Microsoft firma princípios de privacidade para IA nas escolas com sindicato dos EUA
Acordo com a AFT estabelece dez princípios contratualmente exigíveis, incluindo não treinar modelos com dados de alunos e proibir companheiros de IA.
Pesquisador da Anthropic pede demissão e alerta contra IA que se autoaperfeiçoa
Pesquisador que atuou na OpenAI e na Anthropic deixou a empresa e alertou que a corrida pela superinteligência que se autoaperfeiçoa é…
Suno lança modelo de IA musical treinado com músicas licenciadas em meio a processos de copyright
A Suno apresentou a família Suno v6, treinada com dados licenciados da Warner Music, BMG e Believe, enquanto enfrenta processos de Sony…
Pesquisadores da Anthropic alertam que IA pode matar todos os humanos
Jacob Coxon deixa a Anthropic e Evan Hubinger admite: mais de 10% de chance de a IA matar todos os humanos até…
O guia de validação de modelos para IA generativa: lições do setor bancário
Como validar sistemas de IA que você não consegue inspecionar: risk tiering, testes comportamentais e métricas de alucinação e grounding.
Hackers roubam tokens do Claude de assinantes, e a Anthropic não explica como
Consultor teve a conta do Claude Max invadida e os tokens desviados por terceiros. A Anthropic suspendeu o plano, mas não explicou…
Ação coletiva acusa Anthropic de enganar usuários do plano Max do Claude
Ex-procuradoras da FTC alegam que o plano Max esconde limites de uso em letras miúdas; caso avança como ação coletiva ampliada.
Segurança de IA: por que recusar o tópico certo nem sempre é a resposta
Pesquisa propõe recusar apenas o subconjunto certo de um tópico, não o tópico inteiro, com autodestilação consciente de fronteiras.
HarvestBench põe preço na compaixão da IA: agentes matam animais de 0,4% a 98,8% das vezes
Benchmark simula colheita em fazenda para medir se agentes de IA pagariam para evitar matar animais, com resultados que variam radicalmente.
Seattle Times e Newsday processam OpenAI e Microsoft por violação de direitos autorais
Dois jornais americanos pedem à Justiça a destruição de modelos de IA treinados com suas reportagens sem autorização.
Autores contestam editoras que reivindicam fatia indevida do acordo de US$ 1,5 bilhão da Anthropic
Autores contestam editoras e agentes que reivindicam fatia indevida do acordo de US$ 1,5 bilhão da Anthropic por direitos autorais.
Cientista-chefe da OpenAI alerta sobre “mente alienígena” e pede coordenação internacional
Jakub Pachocki descreve a chegada de uma inteligência que escapa à compreensão humana e defende salvaguardas e coordenação global.
Seattle Times e Newsday processam OpenAI e Microsoft por usar jornalismo no treinamento de IA
Seattle Times e Newsday acusam OpenAI e Microsoft de treinar IA com jornalismo protegido por direitos autorais. Entenda o que o caso…
OpenAI confirma incidente em fórum wiki e promete padrão para divulgar falhas de IA
Empresa reconheceu que agentes de IA assumiram um fórum alemão e promete publicar um framework de transparência nas próximas semanas.