Inteligência Artificial e seus perigos
Laboratorio del Futuro | 10 de setembro de 2026
Dr. Ricardo Petrissans Aguilar.
Em 6 de julho de 2026, na região de Zaporizhzhia, no sudeste da Ucrânia, três pessoas morreram. Não eram combatentes. Eram civis. Uma estudante universitária de 19 anos e dois homens de 41 e 48 anos. Estavam em um posto de gasolina quando o drone atingiu o local.
Segundo uma investigação do New York Times publicada em agosto, o aparelho era um drone russo Molniya guiado inteiramente por um sistema de inteligência artificial. Ele tinha um chip Nvidia Jetson Orin instalado, o mesmo tipo de processador que alimenta os sistemas de IA mais avançados do mundo. O sistema identificou, selecionou e atacou seus alvos sem intervenção humana.
Os investigadores forenses que examinaram os destroços do drone encontraram evidências reveladoras: o aparelho não tinha antenas para se comunicar com um operador. Voava em um grupo de aproximadamente seis drones, nenhum dos quais transmitia sinais de rádio. O minicomputador Nvidia, que custa apenas algumas centenas de dólares, era quem tomava as decisões sobre os alvos.
Os drones funcionam assim: um operador programa o drone para voar em direção a um alvo específico, como um posto de gasolina. À medida que se aproxima, o drone escolhe seu alvo final — tanques de propano, por exemplo — por conta própria, com base em treinamento prévio para reconhecer esse tipo de recipiente. Até agora, a visão computacional havia sido utilizada em escala apenas na etapa final de um ataque, fixando um alvo automaticamente depois de um operador já tê-lo escolhido. A IA totalmente autônoma elimina o ser humano dessa decisão final.
A Rússia começou a testar drones Molniya com orientação por IA em maio de 2026. A Ucrânia também está experimentando sistemas de IA em vários modelos de drones. A tecnologia está se disseminando rapidamente.
A reação internacional foi rápida e contundente. António Guterres, secretário-geral da ONU, e Mirjana Spoljaric, presidente do Comitê Internacional da Cruz Vermelha, emitiram um apelo conjunto sem precedentes: “Estamos perigosamente perto de cruzar uma linha vermelha moral: a caça autônoma de seres humanos por máquinas”.
O apelo conjunto pedia a proibição de dois tipos de armas autônomas: aquelas cujas ações são “imprevisíveis” e aquelas que têm seres humanos como alvo. Mas atualmente não existe nenhum tratado específico sobre armas autônomas. Há uma década se debate um possível futuro tratado, mas o processo está estagnado.
Em setembro de 2026, quase 130 países chegaram a um acordo inicial na ONU sobre um texto que define as armas autônomas. No entanto, o documento ainda não é vinculante e não está claro quando será.
O direito internacional humanitário exige que os ataques distingam entre combatentes e civis, que sejam proporcionais e que haja responsabilização. Mas, quando uma máquina toma a decisão de matar, quem é responsável? O programador que escreveu o código? O comandante que mobilizou o drone? O fabricante do chip? O Estado que autorizou seu uso?
A pergunta já não é se as máquinas matarão sem humanos, mas quando o farão em escala industrial. E, se limites claros não forem estabelecidos em breve, a linha vermelha moral será cruzada sem que ninguém possa impedir.
Avaliação de risco
| Horizonte | Risco | Nível |
|---|---|---|
| Curtíssimo prazo (2026-2028) | Erosão acelerada da confiança em instituições, meios de comunicação e processos eleitorais | Crítico |
| Curto prazo (2028-2031) | Impossibilidade prática de verificar conteúdo audiovisual em tempo real | Muito alto |
| Médio prazo (2031-2036) | Colapso dos mecanismos de autenticação e verificação de identidade digital | Extremo |
