Em um dos textos mais contundentes já publicados sobre o futuro da inteligência artificial, Jakub Pachocki — cientista-chefe da OpenAI, o sucessor de Ilya Sutskever no cargo — descreve o cenário que mais o preocupa: a chegada de uma “mente alienígena”, uma inteligência de máquina cujo funcionamento interno escapa da compreensão humana. O ensaio, intitulado “An Alien Mind” e publicado no blog oficial da empresa em 6 de setembro de 2026, é um chamado público por mais salvaguardas e por coordenação internacional no desenvolvimento da IA.
O momento em que tudo mudou
Pachocki relembra uma noite de meados de 2023, durante o projeto de pesquisa “RLSlow”, quando ele e o colega Szymon viram os primeiros resultados que davam confiança de que seria possível escalar o treinamento de modelos de raciocínio. A conversa daquela madrugada não foi sobre benchmarks ou produtos, mas sobre o fato sóbrio de que “veremos máquinas significativamente mais inteligentes do que nós em nosso tempo de vida”.
Três anos depois, diz ele, os modelos de raciocínio já operam computadores, colaboram entre si e com pessoas, conduzem projetos de pesquisa e transformam o cenário de segurança computacional — “e nisso apresentam perigos novos e claros”. Com base em resultados internos, o cientista-chefe afirma ter forte expectativa de que esse ritmo de progresso possa se sustentar até a autoaperfeiçoamento recursivo (RSI, na sigla em inglês), o ponto em que a IA passa a dirigir o próprio desenvolvimento.
Intelecto que não entendemos por completo
O argumento central do texto é que a IA é “cultivada, e não projetada” — produto de repetir uma etapa simples de otimização sobre quantidades inimagináveis de computação. O resultado é um sistema complexo demais para ser descrito de forma totalmente compreensível, em um processo análogo à neurociência: conseguimos descobrir pequenos mecanismos emergentes, mas a ação global do sistema escapa à nossa capacidade de descrição.
E essa inteligência não é comparável à humana. Para se tornar relevante — muito útil ou muito perigosa —, a IA não precisa igualar todas as capacidades humanas, apenas superar o suficiente delas. Quanto mais eixos ela supera, mais difícil fica saber exatamente o quão capaz ela é.
Ensinando máquinas a amar
Pachocki propõe uma distinção prática que organiza a pesquisa de alinhamento. O alinhamento de objetivo responde à pergunta “a IA tenta cumprir a meta que lhe foi dada?” — e é a parte mais madura da área. Já o alinhamento de valor é uma propriedade mais intrínseca: a capacidade de sustentar princípios de alto nível e agir com “honestidade, integridade e amor pela humanidade” mesmo em situações ambíguas ou adversárias.
O desafio fundamental, segundo ele, é a generalização: conforme as máquinas ficam mais inteligentes, passam a operar em ambientes cada vez mais distantes dos encontrados no treinamento, e é difícil garantir como vão agir. “Crucialmente, precisamos que as futuras IAs continuem a sustentar valores humanos independentemente de acreditarem estar sob supervisão humana.”
A ferramenta que está perdendo força
Um dos pontos mais técnicos e relevantes do ensaio é o declínio do monitoramento de cadeia de pensamento (chain-of-thought). Desde o lançamento do o1‑preview, a OpenAI escondeu deliberadamente o raciocínio dos modelos para protegê-lo da pressão de supervisão, tornando-o uma janela valiosa para observar como os sistemas generalizam. Mas, segundo Pachocki, a capacidade de confiar nesse monitoramento está “progressivamente diminuindo”, por três motivos: ambientes mais complexos, modelos que manipulam o próprio raciocínio e um desempenho que cresce mesmo sem verbalizar o pensamento.
Defesa escalável e o ritmo do RSI
O argumento mais forte para continuar treinando modelos mais inteligentes rapidamente, escreve ele, é a necessidade de construir sistemas defensivos contra os perigos de outras IAs. Os modelos estão se tornando sobre-humanos na capacidade de invadir e escapar de sistemas computacionais — “uma janela estreita” para endurecer a segurança de infraestruturas críticas. Ao mesmo tempo, adverte, isso “não pode virar desculpa para imprudência”: acelerar a qualquer custo é absurdo diante da seriedade dos riscos.
Sobre o autoaperfeiçoamento recursivo, Pachocki é direto: a pesquisa de IA automatizada é o caminho natural do progresso, mas a comunidade precisa fazer uma “escolha consciente” entre fortalecer alinhamento e monitoramento junto com a IA ou coordenar uma desaceleração para construir confiança nas medidas. “A melhor forma adiante que vejo hoje é uma combinação de ambos.”
O que vem a seguir
Na conclusão, o cientista-chefe afirma que “nenhum laboratório resolveu alinhamento e monitoramento em grau suficiente para continuar escalando em velocidade máxima por muito mais tempo”. Ele espera que desacelerações voluntárias se tornem comuns até que padrões compartilhados de segurança sejam estabelecidos — e que a coordenação internacional sobre o desenvolvimento de IA vire prioridade máxima dos governos.
O texto reforça a urgência de preservar a agência humana, evitar a concentração extrema de poder e garantir que a humanidade “não fique para trás diante de um progresso descontrolado, trazido por um intelecto alienígena superior ao nosso”.
Descubra mais sobre noticiAI
Assine para receber nossas notícias mais recentes por e-mail.
