Do underground para o serviço comercial
Ficou muito mais fácil acessar um dos modelos abertos mais capazes do mundo — sem seus guardrails e sem as recusas a tarefas potencialmente perigosas. A startup Abliteration.ai transformou em serviço comercial uma técnica que há anos circula no mundo open source: a abliteração, que remove a tendência de um modelo a recusar pedidos nocivos.
A plataforma hospeda versões modificadas de modelos abertos com os guardrails removidos, incluindo o GLM-5.3 da Z.ai, que pode ser consultado pelo navegador ou por API. Em uma publicação recente, a empresa disse que seu objetivo é permitir “trabalho ofensivo em cibersegurança, red teaming e testes de agentes que outros modelos se recusam a fazer”.
A lógica de segurança — e o risco
O argumento é conhecido em segurança da informação: não dá para se defender de um comportamento que não se consegue reproduzir. Um modelo que se recusa a escrever código de exploração funcional não ajuda um time de red team a se preparar contra atacantes.
Mas as mesmas remoções também facilitam tarefas genuinamente perigosas. Em teste feito pelo TechCrunch, foi possível criar uma conta gratuita e pedir — com sucesso — um programa Python para roubar senhas salvas do Chrome e um protocolo para cultivar um patógeno humano perigoso em casa.
O debate
Andrew Yoon, chefe de pesquisa da ONG de segurança de IA CivAI, resumiu a crítica: abliterar um modelo permite “modificar o modelo para que ele se torne um sociopata”. A startup, fundada no fim do ano passado e incorporada em março, ainda não captou capital de risco, mas diz estar em conversas para isso e afirma já ter acordos com grandes provedores de nuvem — custeados apenas pela receita de clientes.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
