Yuval Noah Harari sustenta que a IA hackeou o sistema operacional da civilização humana

Os computadores que contam histórias mudarão o curso da história humana, diz o historiador e filósofo

Os temores da INTELIGÊNCIA ARTIFICIAL (IA) assombram a humanidade desde o início mesmo da era da computação. Até agora, esses temores se concentravam nas máquinas que utilizam meios físicos para matar, escravizar ou substituir as pessoas. Mas, nos últimos anos, surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana a partir de uma direção inesperada. A IA adquiriu algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. Dessa forma, a IA hackeou o sistema operacional da nossa civilização.

A linguagem é o material de que é feita quase toda a cultura humana. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. São, antes, artefatos culturais que criamos ao contar histórias e escrever leis. Os deuses não são realidades físicas. São, antes, artefatos culturais que criamos ao inventar mitos e escrever escrituras.

O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel colorido e, hoje, mais de 90% do dinheiro nem sequer são cédulas, mas apenas informação digital contida em computadores. O que dá valor ao dinheiro são as histórias que nos contam sobre ele os banqueiros, os ministros da Fazenda e os gurus das criptomoedas. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eram contadores de histórias extremamente capazes.

O que acontece quando a IA domina a linguagem

O que aconteceria quando uma inteligência não humana se tornasse melhor que o ser humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, muitas vezes se sentem atraídas por exemplos como o de crianças em idade escolar que usam IA para escrever suas redações. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta ignora o panorama geral. Esqueçam as redações escolares. Pensem na próxima corrida presidencial americana, em 2024, e tentem imaginar o impacto das ferramentas de IA que podem ser usadas para produzir em massa conteúdo político, notícias falsas e escrituras para novos cultos.

Nos últimos anos, o culto QAnon se agrupou em torno de mensagens anônimas on-line, conhecidas como “Q drops”. Os seguidores coletavam, reverenciavam e interpretavam esses Q drops como um texto sagrado. Embora, até onde sabemos, todos os Q drops anteriores tenham sido compostos por humanos e os bots tenham apenas ajudado a difundi-los, no futuro poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não humana. Ao longo da história, as religiões reivindicaram uma fonte não humana para seus livros sagrados. Em breve isso poderá se tornar realidade.

Em um nível mais prosaico, logo poderemos nos ver mantendo longas discussões on-line sobre o aborto, as mudanças climáticas ou a invasão russa da Ucrânia com entidades que acreditamos serem humanas, mas que na verdade são IA. O problema é que não faz o menor sentido perdermos tempo tentando mudar as opiniões declaradas de um robô de IA, enquanto a IA poderia aperfeiçoar suas mensagens com tanta precisão que teria muitas chances de nos influenciar.

Falsa intimidade e poder de persuasão

Graças ao seu domínio da linguagem, a IA poderia até estabelecer relações íntimas com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indícios de que a IA tenha consciência ou sentimentos próprios, para fomentar uma falsa intimidade com os humanos basta que a IA consiga fazer com que eles se sintam emocionalmente apegados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de IA LaMDA, no qual estava trabalhando, havia se tornado consciente. A polêmica afirmação lhe custou o emprego. O mais interessante desse episódio não foi a afirmação de Lemoine, que provavelmente era falsa, mas sua disposição de arriscar seu lucrativo emprego em prol do chatbot de IA. Se a IA pode influenciar as pessoas a arriscar seus empregos por ela, o que mais poderia induzi-las a fazer?

Em uma batalha política pelas mentes e pelos corações, a intimidade é a arma mais eficaz, e a IA acaba de adquirir a capacidade de produzir em massa relações íntimas com milhões de pessoas. Todos sabemos que, na última década, as redes sociais se tornaram um campo de batalha pelo controle da atenção humana. Com a nova geração de IA, a linha de frente está passando da atenção para a intimidade. O que acontecerá com a sociedade e a psicologia humanas quando a IA lutar contra a IA numa batalha para simular relações íntimas conosco, que depois possam ser usadas para nos convencer a votar em determinados políticos ou comprar determinados produtos?

Mesmo sem criar uma “falsa intimidade”, as novas ferramentas de IA teriam uma influência imensa em nossas opiniões e visões de mundo. As pessoas poderiam passar a usar um único assessor de IA como um oráculo onisciente. Não é de estranhar que o Google esteja aterrorizado. Para que se dar ao trabalho de pesquisar, quando posso simplesmente perguntar ao oráculo? As indústrias de notícias e de publicidade também deveriam estar aterrorizadas. Para que ler um jornal quando posso simplesmente pedir ao oráculo que me diga as últimas notícias? E qual é o propósito dos anúncios, quando posso simplesmente pedir ao oráculo que me diga o que comprar?

O possível fim da história dominada por humanos

E nem mesmo esses cenários refletem de fato o panorama geral. O que estamos discutindo é o possível fim da história humana. Não o fim da história, mas apenas o fim da parte dominada pelos humanos. A história é a interação entre a biologia e a cultura; entre nossas necessidades e desejos biológicos por coisas como comida e sexo, e nossas criações culturais, como as religiões e as leis. A história é o processo por meio do qual as leis e as religiões moldam a comida e o sexo.

O que acontecerá com o curso da história quando a IA assumir o controle da cultura e começar a produzir histórias, melodias, leis e religiões? As ferramentas anteriores, como a imprensa e o rádio, ajudaram a difundir as ideias culturais dos humanos, mas nunca criaram ideias culturais novas por conta própria. A IA é fundamentalmente diferente. A IA pode criar ideias completamente novas, uma cultura completamente nova.

No início, a IA provavelmente imitará os protótipos humanos com que foi treinada em seus primórdios, mas, a cada ano que passar, a cultura da IA ousará ir aonde nenhum ser humano jamais foi. Durante milênios, os seres humanos viveram dentro dos sonhos de outros seres humanos. Nas próximas décadas, poderemos nos ver vivendo dentro dos sonhos de uma inteligência extraterrestre.

O velho medo das ilusões

O medo da IA assombra a humanidade há algumas décadas, mas, há milhares de anos, os humanos são perseguidos por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipular nossas mentes e criar ilusões. Por consequência, desde a Antiguidade os humanos temem ficar presos em um mundo de ilusões.

No século XVII, René Descartes temia que talvez um demônio maligno o estivesse prendendo dentro de um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia antiga, Platão contava a famosa Alegoria da Caverna, em que um grupo de pessoas está acorrentado dentro de uma caverna por toda a vida, de frente para uma parede em branco. Uma tela. Nessa tela veem projetadas várias sombras. Os prisioneiros confundem as ilusões que veem ali com a realidade.

Na Índia antiga, os sábios budistas e hindus apontaram que todos os seres humanos viviam presos em Maya, o mundo das ilusões. O que normalmente consideramos realidade muitas vezes não passa de ficções em nossa própria mente. As pessoas podem travar guerras inteiras, matar outras e estar dispostas a ser mortas elas mesmas, por causa de sua crença nesta ou naquela ilusão.

A revolução da inteligência artificial está nos colocando cara a cara com o demônio de Descartes, com a caverna de Platão, com Maya. Se não tivermos cuidado, podemos ficar presos atrás de uma cortina de ilusões que não conseguimos arrancar, ou que nem sequer percebemos que está ali.

Claro, o novo poder da IA também poderia ser usado para fins benéficos. Não vou me estender nesse tema, porque quem desenvolve a IA já fala o suficiente sobre isso. O trabalho de historiadores e filósofos como eu é apontar os perigos. Mas, sem dúvida, a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que se coloca é como garantir que as novas ferramentas da IA sejam usadas para o bem e não para o mal. Para isso, primeiro precisamos apreciar as verdadeiras capacidades dessas ferramentas.

A tecnologia nuclear como precedente para regular a IA

Desde 1945, sabemos que a tecnologia nuclear pode gerar energia barata em benefício dos seres humanos, mas também pode destruir fisicamente a civilização humana. Por isso, reestruturamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja usada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de IA, mas devemos agir com rapidez. Enquanto as armas nucleares não podem inventar armas nucleares mais potentes, a IA pode criar IA exponencialmente mais potente. O primeiro passo crucial é exigir controles de segurança rigorosos antes que ferramentas de IA potentes sejam divulgadas ao domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais de curto e longo prazo, as empresas de tecnologia não deveriam lançar novas ferramentas de IA antes que se comprove que são seguras. Precisamos de um equivalente da Administração de Alimentos e Medicamentos para as novas tecnologias, e precisamos dele para ontem.

Será que desacelerar a implementação pública da IA não fará com que as democracias fiquem para trás em relação a regimes autoritários mais implacáveis? Muito pelo contrário. A implementação descontrolada da IA criaria um caos social que beneficiaria os autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a IA hackeia a linguagem, pode destruir nossa capacidade de manter conversas significativas, destruindo assim a democracia.

Acabamos de nos deparar com uma inteligência extraterrestre aqui na Terra. Não sabemos muito sobre ela, exceto que poderia destruir nossa civilização. Deveríamos pôr fim à implantação irresponsável de ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulação que eu sugeriria é tornar obrigatório que a IA revele que é uma IA. Se estou mantendo uma conversa com alguém e não consigo distinguir se é um humano ou uma IA, esse é o fim da democracia.

Este texto foi gerado por um humano.

Fontes

Yuval Noah Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e da série infantil “Unstoppable Us”. É professor no departamento de história da Universidade Hebraica de Jerusalém e cofundador da Sapienship, uma empresa de impacto social.

Inteligência artificial – THE ECONOMIST. Original em inglês.

Traduzido por Traduzido por Equipe do Future Lab

Fonte original: The Economist · Yuval Noah Harari