A Baseten, provedora de inferência de IA, lançou um novo padrão de infraestrutura de segurança em parceria com a Hugging Face e a Goodfire AI para construir ferramentas de avaliação e monitoramento de segurança para modelos open-weight. O anúncio chega em meio a um debate crescente sobre a segurança desses modelos, que podem se tornar perigosos quando suas salvaguardas são removidas por uma técnica em ascensão conhecida como abliteration (remoção de comportamentos de segurança do modelo).
A escala do problema é grande: a Hugging Face, que hospeda modelos de IA open source, lista atualmente mais de 6 mil modelos “abliterados” — versões com as proteções removidas.
Segurança embutida, não anexada
O Base Labs, grupo de pesquisa que a Baseten criou no início deste ano, vai desenvolver e publicar métodos para treinar e monitorar modelos abertos. A empresa enquadra o trabalho como um “padrão” para modelos abertos que seja transparente e incorporado à forma como os modelos são treinados e implantados, em vez de adicionado depois.
“Acreditamos que a abertura é uma vantagem para a segurança da IA”, afirmou a empresa. “A abertura oferece mais visibilidade sobre o comportamento dos modelos e, mais importante, mais meios de transformar a pesquisa de segurança em controles acionáveis e transparentes do que o código fechado.”
Quem faz o quê
As empresas não detalharam como a parceria funcionará tecnicamente, mas a divisão de papéis é clara. A Goodfire, especializada em abrir a “caixa-preta” da IA para explicar como os modelos tomam decisões, é a candidata natural para a parte de “embutir” a segurança. A mensagem da Goodfire resume o objetivo: “A segurança deve ser embutida nos modelos abertos e fornecida por quem os serve.”
A Baseten levantou uma Série F de US$ 1,5 bilhão em junho, elevando sua avaliação para US$ 13 bilhões. A Goodfire AI também é bem capitalizada, tendo levantado uma Série B de US$ 150 milhões liderada pela B Capital no início deste ano para avançar sua plataforma de interpretabilidade.
Chamado aberto à comunidade
Olhando para frente, a Baseten está fazendo um chamado aberto ao ecossistema de desenvolvedores para contribuir com o framework. “Juntos, estamos construindo um ecossistema de modelos abertos que sejam seguros e acessíveis a todos”, afirmou a empresa. O movimento reflete uma tese que vem ganhando força no setor: segurança não é obstáculo à abertura — é justamente a abertura que permite auditoria e controle mais eficazes.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
