OpenAI lança monitoramento de segurança que não retém dados dos clientes

Monitoramento de segurança sem reter dados

A OpenAI anunciou um novo serviço chamado Private Safety Processing (Processamento Privado de Segurança), oferecido em prévia para um grupo seleto de clientes. A proposta é monitorar o uso dos modelos para detectar possíveis abusos — e, ao mesmo tempo, não reter nenhum dado do cliente.

O movimento é um contraponto direto à política de retenção de dados anunciada pela rival Anthropic em julho. A Anthropic passou a manter os dados de usuários (sessões e conversas) por até 30 dias para os chamados “modelos cobertos”, que incluem todos os modelos da classe Mythos e “modelos futuros com capacidades semelhantes”. A medida, criada para fins de segurança, incomodou clientes corporativos que lidam com grandes volumes de dados sensíveis e não querem que eles sejam armazenados ou inspecionados pelo laboratório de IA.

Como funciona

O Private Safety Processing amplia o escopo de uma política já conhecida no setor, a Zero Data Retention (ZDR) — na qual agentes monitoram o uso sessão a sessão, sem que a empresa retenha os dados do cliente. A novidade é o que a OpenAI chama de monitoramento de segurança de “longo horizonte”: em vez de analisar uma única conversa, o sistema avalia as entradas e saídas de múltiplas conversas em conjunto.

Na prática, um agente monitora as interações e, se for acionado, analisa várias sessões em busca de sinais de uso indevido. Isso ajuda a detectar atores mal-intencionados que espalham suas solicitações entre sessões para evitar a detecção — como alguém tentando desenvolver malware para um ciberataque, tudo sem revisão humana das conversas.

Quando o sistema é acionado, ele pode enviar um “sinal estritamente definido” à OpenAI indicando um tipo específico de atividade. A empresa decide então se alguma medida é necessária e, em caso positivo, entra em contato com o cliente para obter contexto ou trabalhar em conjunto na questão — cabendo ao cliente decidir se quer compartilhar dados.

O contraponto da Anthropic e o cenário competitivo

A Anthropic, por sua vez, argumenta que a revisão humana de dados, quando ocorre, segue um “caminho de acesso controlado”, restrito a um pequeno grupo de revisores aprovados, e que cada sessão de revisão fica registrada em um log à prova de adulteração, que os revisores não conseguem suprimir ou modificar.

A disputa entre OpenAI e Anthropic está acirrada. Um relatório recente apontou que o crescimento da OpenAI no segundo trimestre foi mais lento que o da Anthropic, cuja receita anualizada seria de cerca de US$ 65 bilhões. Investidores chegaram a mencionar a possibilidade de um IPO da Anthropic avaliado em US$ 2 trilhões, enquanto a OpenAI também trabalha em sua própria abertura de capital.

Para empresas brasileiras que lidam com dados sensíveis — bancos, seguradoras e operadoras de saúde — a privacidade no uso de modelos de IA é um critério decisivo na escolha do fornecedor. A promessa de monitoramento de segurança sem retenção de dados tende a pesar na balança.