O problema do aluno que espiou a prova
Imagine um estudante prestes a fazer uma prova decisiva. Se ele espiar as questões com antecedência, tirar nota máxima deixa de significar alguma coisa. Para medir o que ele realmente sabe, é preciso que ele não veja as perguntas até a hora do exame. É exatamente esse o desafio que a indústria enfrenta ao avaliar modelos de IA avançados: se um modelo já “viu” as perguntas do teste — problema conhecido como contaminação de benchmark — os resultados só podem ser confiáveis até certo ponto.
Para enfrentar isso, o Google DeepMind anunciou a primeira avaliação duplo-cega de um modelo de IA de fronteira proprietário. A ideia central: manter as avaliações externas confinadas em uma “caixa” criptográfica, de modo que elas não possam ser usadas pelos modelos depois para otimizar desempenho antes do teste.
Como funciona uma avaliação duplo-cega
Historicamente, avaliações externas de alto risco exigiam uma escolha difícil: ou o avaliador entregava seus prompts de teste (arriscando o provedor ver as perguntas antes), ou o provedor entregava os pesos do modelo (arriscando a propriedade intelectual). A avaliação duplo-cega elimina esse dilema.
Usando o Confidential Space, do portfólio de Confidential Computing do Google Cloud, é possível verificar criptograficamente que tanto os dados de avaliação quanto o modelo proprietário permanecem privados para seus respectivos donos. O avaliador não consegue ver os pesos do Gemini — e o Google não consegue ver os prompts de teste do avaliador.
Parceria e piloto
O piloto testa um modelo Gemini Flash Lite contra benchmarks confidenciais em um ambiente que preserva a privacidade, em parceria com o Singapore AI Safety Institute, OpenMined, AVERI e MLCommons. A autoria é de William Isaac, Sol Messing e Kristian Lum.
A motivação é direta: à medida que os modelos ficam mais capazes, garantir que eles não viram as perguntas ou prompts com antecedência se torna crítico, pois isso distorce os resultados. Políticos, pesquisadores e empresas precisam confiar que os benchmarks refletem as capacidades reais de um modelo — se os modelos conseguirem “espiar” as questões, as notas inflam artificialmente e essa confiança se desfaz.
Por que isso importa
Embora protocolos de zero-log e salvaguardas contratuais já mantivessem os prompts externos confidenciais, incorporar salvaguardas técnicas e criptográficas representa um passo relevante na avaliação segura de modelos. Essa evidência criptográfica ajuda a prevenir a contaminação de benchmarks e a proteger dados sensíveis.
Isso se torna especialmente importante para avaliações altamente sensíveis — como as usadas em cibersegurança ou por órgãos de governo. A avaliação duplo-cega abre caminho para que organizações independentes testem modelos avançados com rigor, sem comprometer a soberania de dados nem a segurança. A expectativa do DeepMind é que o piloto estabeleça uma nova fronteira para a supervisão de modelos e ajude a indústria a construir sistemas de IA mais seguros, confiáveis e amplamente aceitos.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
