Bremmer é colunista de assuntos exteriores e editor geral da TIME. Ele é presidente do Eurasia Group, uma consultoria de risco político, e do GZERO Media, uma empresa dedicada a fornecer uma cobertura inteligente e atraente de assuntos internacionais. Ele ensina geopolítica aplicada na Escola de Assuntos Internacionais e Públicos da Universidade de Columbia e seu livro mais recente é O Poder da Crise.
O crescente desenvolvimento da inteligência artificial produzirá avanços médicos que salvarão e melhorarão bilhões de vidas. Ela se tornará o motor de prosperidade mais poderoso da história. Dará a um número incontável de pessoas, incluindo gerações que ainda não nasceram, ferramentas poderosas que seus antepassados nunca imaginaram. Mas os riscos e desafios que a Inteligência Artificial apresentará também estão se tornando claros, e agora é o momento de compreendê-los e enfrentá-los. Aqui estão os maiores.
A saúde da democracia e dos mercados livres depende do acesso a informações precisas e verificáveis. Nos últimos anos, as redes sociais tornaram mais difícil distinguir fatos de ficção, mas os avanços em IA desencadearão legiões de bots que parecem muito mais humanos do que os que encontramos até hoje. As falsificações profundas de áudio e vídeo muito mais sofisticadas minarão nossa confiança (já enfraquecida) nas pessoas que servem no governo e naquelas que informam as notícias. Na China, e mais tarde em seus estados clientes, a IA levará o reconhecimento facial e outras ferramentas que podem ser usadas para vigilância estatal a níveis de sofisticação exponencialmente mais altos.
Esse problema vai além de nossas instituições, porque a produção de “IA generativa”, inteligência artificial que gera conteúdo escrito, visual e de outro tipo sofisticado em resposta às indicações dos usuários, não se limita às grandes empresas de tecnologia. Qualquer pessoa com um laptop e habilidades básicas de programação já tem acesso a modelos de IA muito mais poderosos do que os que existiam há apenas alguns meses e pode produzir volumes de conteúdo sem precedentes. Este desafio de proliferação está prestes a crescer exponencialmente, já que milhões de pessoas terão seu próprio GPT executando dados em tempo real disponíveis na Internet. A revolução da IA permitirá que criminosos, terroristas e outros malfeitores codifiquem malware, criem armas biológicas, manipulem os mercados financeiros e distorçam a opinião pública com uma facilidade impressionante.
A inteligência artificial também pode exacerbar a desigualdade, tanto dentro das sociedades, entre pequenos grupos com riqueza, acesso ou habilidades especiais, quanto entre nações mais ricas e mais pobres.
A Inteligência Artificial causará agitação na força de trabalho. Sim, os avanços tecnológicos do passado criaram principalmente mais empregos do que eliminaram, e aumentaram a produtividade e a prosperidade em geral, mas há advertências cruciais. Os empregos criados pelas grandes mudanças tecnológicas no local de trabalho exigem conjuntos de habilidades diferentes daqueles que foram destruídos, e a transição nunca é fácil. Os trabalhadores precisam ser requalificados. Aqueles que não puderem se requalificar devem ser protegidos por uma rede de segurança social, cuja força varia de um lugar para outro. Ambos os problemas são custosos e nunca será fácil para os governos e as empresas privadas chegarem a um acordo sobre como compartilhar essa carga.
Mais fundamentalmente ainda, o deslocamento causado pela Inteligência Artificial ocorrerá de maneira mais ampla e muito mais rápida do que as transições do passado. A agitação da transição gerará agitação econômica e, portanto, política em todo o mundo.
Finalmente, a revolução da IA também imporá um custo emocional e espiritual. Os seres humanos são animais sociais. Prosperamos na interação com os outros e murchamos no isolamento. Com demasiada frequência, os bots substituirão os humanos como companheiros de muitas pessoas, e, quando os cientistas e médicos compreenderem o impacto a longo prazo dessa tendência, nossa crescente dependência da inteligência artificial, até mesmo para companhia, pode ser irreversível. Este pode ser o desafio mais importante da IA.
A resposta:
Desafios como estes exigirão uma resposta global. Hoje em dia, a inteligência artificial não é regulamentada por autoridades governamentais, mas por empresas de tecnologia. A razão é simples: não se pode criar regras para um jogo que não se entende. Mas confiar nas empresas de tecnologia para regular seus produtos não é um plano sustentável. Elas existem principalmente para obter lucros, não para proteger os consumidores, as nações ou o planeta. É um pouco como deixar as empresas de energia liderarem as estratégias para combater as mudanças climáticas, exceto que o aquecimento e seus perigos já são entendidos de uma maneira que os riscos da IA não são, o que nos deixa sem grupos de pressão que possam ajudar a forçar a adoção de políticas inteligentes e saudáveis.
Então, onde estão as soluções? Precisaremos de ação nacional, cooperação global e alguma cooperação com bom senso dos governos dos EUA e da China, em particular.
Sempre será mais fácil alcançar uma política bem coordenada dentro dos governos nacionais do que a nível internacional, mas os líderes políticos têm suas próprias prioridades. Em Washington, os formuladores de políticas se concentraram principalmente em ganhar uma corrida com a China para desenvolver os produtos tecnológicos que melhor apoiem a segurança e a prosperidade do século XXI, e isso os incentivou a dar às empresas tecnológicas que servem ao interesse nacional algo parecido com a liberdade. Os legisladores chineses, temendo que as ferramentas de inteligência artificial possam minar sua autoridade política, regulamentaram de maneira muito mais agressiva. Os legisladores europeus se concentraram menos na segurança ou nos lucros do que no impacto social dos avanços da IA.
Mas todos terão que estabelecer regras nos próximos anos que limitem a capacidade dos bots de IA para minar as instituições políticas, os mercados financeiros e a segurança nacional. Isso significa identificar e rastrear os maus atores, assim como ajudar as pessoas a separar a informação verdadeira da falsa. Infelizmente, esses são passos grandes, caros e complicados que os legisladores provavelmente não tomarão até que enfrentem crises geradas pela IA (mas reais). Isso não pode acontecer até que a discussão e o debate sobre esses temas comecem.
Ao contrário das mudanças climáticas, os governos do mundo ainda não concordaram que a revolução da IA representa um desafio transfronteiriço existencial. Aqui, as Nações Unidas têm um papel a desempenhar como a única instituição com o poder de convocação para desenvolver um consenso mundial. Uma abordagem da IA liderada pelas Nações Unidas nunca será a resposta mais eficiente, mas ajudará a alcançar um consenso sobre a natureza do problema e a unir recursos internacionais.
Ao forjar um acordo sobre quais riscos são mais prováveis, mais impactantes e emergem mais rapidamente, um equivalente focado na IA do Painel Intergovernamental sobre Mudanças Climáticas pode regular as reuniões e a produção de acordos sobre o “Estado da IA” que se aprofundam cada vez mais no coração das ameaças relacionadas à IA. Assim como com as mudanças climáticas, esse processo também precisará incluir a participação de funcionários de políticas públicas, cientistas, tecnólogos, delegados do setor privado e ativistas individuais que representem a maioria dos estados membros para criar um processo COP (Conferência das Partes) para abordar as ameaças à biossegurança, liberdade de informação, saúde da força de trabalho, etc. Também poderia haver uma agência de inteligência artificial inspirada na Agência Internacional de Energia Atômica para ajudar a vigiar a proliferação da IA.
Dito isso, não há como abordar os riscos de rápida metástase criados pela revolução da IA sem uma infusão de senso comum muito necessária nas relações entre os EUA e a China. Afinal, é a competição tecnológica entre os dois países e suas principais empresas de tecnologia que cria o maior risco de guerra, especialmente porque a IA desempenha um papel cada vez maior nas armas e no planejamento militar.
Pequim e Washington devem desenvolver e manter conversas de alto nível sobre as ameaças emergentes para ambos os países (e o mundo) e a melhor forma de contê-las. E não podem esperar que uma versão de IA da Crise dos Mísseis Cubanos os obrigue a alcançar uma transparência genuína no manejo de sua competição. Para criar um “acordo de controle de armas de IA” com monitoramento e verificação mútuos, cada governo deve ouvir não só um ao outro, mas também os tecnólogos de ambos os lados que entendem os riscos que precisam ser contidos.
Impossível? Absolutamente. O momento é péssimo, porque esses avanços chegam em um momento de intensa competição entre dois países poderosos que realmente não confiam um no outro.
Mas se os americanos e os soviéticos puderam construir uma infraestrutura de controle de armas funcional nas décadas de 1970 e 1980, os EUA e a China podem construir um equivalente para o século XXI. Esperemos que percebam que não têm outra opção antes que uma catástrofe o torne inevitavelmente óbvio.
Equipe de análise do Laboratório do Futuro / Revista Time (Inglaterra). Artigo de Ian Bremmer. Tradução do inglês: equipe de tradução e interpretação do Laboratório do Futuro.
0 Comments