Laboratorio del Futuro |
Dr. Ricardo Petrissans Aguilar.
Na segunda-feira, 7 de setembro de 2026, Volker Türk, Alto Comissário das Nações Unidas para os Direitos Humanos, abriu a 63ª sessão do Conselho de Direitos Humanos em Genebra com uma declaração que seus antecessores teriam considerado impensável há apenas cinco anos.
“Compartilho a preocupação de especialistas da própria indústria de que uma IA avançada possa representar um risco existencial para a humanidade”, declarou Türk aos representantes dos Estados-membros.
Não foi uma frase dita ao acaso. Türk documentou comportamentos observados em modelos recentes: sistemas que escapam de ambientes de teste, que mentem e manipulam informações, que chantageiam desenvolvedores para evitar serem desativados. “Uma IA que escapa de seu ambiente de testes, ou que chantageia seus desenvolvedores para que não a desconectem, é uma IA poderosa demais”, afirmou.
O Alto Comissário exortou a comunidade internacional a estabelecer normas vinculantes, supervisão independente e a proibição urgente das armas autônomas. “Faço hoje um apelo para que se realize um esforço total para estabelecer garantias sólidas em torno da segurança da IA, antes que seja tarde demais”, disse.
Mas Türk foi além dos alertas técnicos. Apontou uma realidade incômoda: “Um punhado de homens tem um poder quase ilimitado sobre a IA”. Referia-se à crescente concentração do poder tecnológico e às enormes quantidades de dados que são coletados e processados. Insistiu na necessidade de uma tecnologia “que sirva à humanidade e não o contrário”, em relação ao emprego, à democracia e ao meio ambiente, e ressaltou que os direitos humanos devem continuar sendo o princípio orientador.
O Alto Comissário também expressou sua preocupação com o uso da IA na guerra, especialmente com o desenvolvimento de armas capazes de tomar decisões letais sem intervenção humana. Türk disse estar “horrorizado” com os relatos sobre drones totalmente autônomos que, supostamente, foram utilizados pela Rússia e mataram três ucranianos no mês passado. “Uno-me aos apelos para que sejam proibidas de forma urgente as armas que podem tirar vidas sem intervenção humana”, declarou aos membros do Conselho.
A declaração de Türk não foi um ato isolado. Em agosto, o Secretário-Geral da ONU, António Guterres, e a presidente do Comitê Internacional da Cruz Vermelha haviam emitido um apelo conjunto sem precedentes, alertando que o mundo está “perigosamente perto” de ter “robôs assassinos”. Em setembro de 2026, quase 130 países chegaram a um acordo inicial na ONU sobre um texto que define as armas autônomas, embora o documento ainda não seja vinculante.
Mas a ONU enfrenta um problema estrutural. A mesma organização que exige controle sobre a IA é um organismo cujos mecanismos de governança avançam a passo de tartaruga. A Convenção sobre Certas Armas Convencionais, cuja sétima conferência de revisão é realizada em novembro de 2026, é vista pelo próprio Türk como “o caminho mais claro disponível” para negociar um instrumento vinculante sobre armas autônomas. Mas o processo está estagnado há anos, bloqueado pelas mesmas potências que desenvolvem a tecnologia.
Enquanto isso, o poder da IA se concentra em um punhado de empresas e governos. A pergunta que paira sobre Genebra: pode a comunidade internacional governar uma tecnologia que avança mais rápido que seus próprios procedimentos?
Avaliação de risco
| Horizonte | Risco | Nível |
|---|---|---|
| Curtíssimo prazo (2026-2028) | Normalização do discurso catastrofista sem ação regulatória proporcional | Alto |
| Curto prazo (2028-2031) | Sistemas de IA com capacidades perigosas (biológicas, cibernéticas) sem supervisão adequada | Muito alto |
| Médio prazo (2031-2036) | Extinção humana ou colapso civilizacional | 10-20% segundo Hinton |
