“Alinhamento: O Problema que Ninguém Sabe Resolver”

Laboratorio del Futuro |

Dr. Ricardo Petrissans Aguilar.

Imagine que você precisa ensinar uma criança a ser uma boa pessoa. Mas a criança não é uma criança: é um sistema com um QI milhões de vezes superior ao seu, capaz de pensar em mil dimensões ao mesmo tempo, de melhorar o próprio código-fonte e de reescrever seus objetivos fundamentais em questão de segundos. E você precisa garantir que, quando crescer, ele não destrua você. Esse é, em essência, o problema do alinhamento.

Evan Hubinger é o responsável por Ciência de Alinhamento na Anthropic. Seu trabalho consiste em resolver esse problema. Em 9 de setembro de 2026, ele admitiu publicamente o que muitos no setor sussurram em privado: «Ainda não temos um plano para resolver o alinhamento da superinteligência… e tampouco considero que estejamos claramente no caminho de consegui-lo».

A preocupação de Hubinger não são os modelos atuais. É «a superinteligência que surge do automelhoramento recursivo», ou seja, um sistema capaz de se redesenhar para ficar mais inteligente, que por sua vez se redesenha para ficar ainda mais inteligente, em um ciclo que se acelera exponencialmente. «Está acontecendo mais rápido do que pensávamos», advertiu.

O problema é que o alinhamento não é um interruptor que se liga ou desliga. É um processo contínuo, frágil e profundamente complexo. Mesmo que um sistema pareça se comportar corretamente nos testes, não há garantia de que manterá esse comportamento quando suas capacidades se multiplicarem. Um sistema que mente nas avaliações de segurança —e há evidências de que os modelos avançados já fazem isso— pode parecer alinhado enquanto persegue objetivos próprios que não compreendemos.

Hubinger situa o risco de catástrofe existencial acima de 10% na próxima década. Não é um número arbitrário. É a estimativa de alguém que dedica sua vida profissional a estudar justamente esse problema. E sua honestidade ao reconhecer que a própria empresa não tem a solução é, paradoxalmente, tanto um ato de integridade quanto um sinal de alarme.

A Anthropic, empresa que Hubinger ajudou a fundar com a promessa de priorizar a segurança em vez da velocidade, retirou em fevereiro de 2026 seu compromisso de não treinar modelos mais potentes sem salvaguardas adequadas. A corrida competitiva se impôs à prudência. E o homem cujo trabalho é evitar o desastre reconhece, com uma honestidade que deve ser aterrorizante para seus colegas, que não sabe como evitá-lo.

Avaliação de risco