As máquinas que contam histórias mudarão o curso da história humana, diz o historiador e filósofo

Os ouvidos da INTELIGÊNCIA ARTIFICIAL (IA) perseguiram a humanidade desde o início da era informática. Até agora, esses temores se concentravam nas máquinas que usam meios físicos para matar, escravizar ou substituir as pessoas. Mas, nos últimos anos, surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana a partir de uma direção inesperada. A IA adquiriu habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. Assim, a IA hackeou o sistema operacional da nossa civilização. A linguagem é o material com o qual toda a cultura humana é feita. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. São, na verdade, artefatos culturais que criamos ao contar histórias e escrever leis. Os deuses não são realidades físicas. São, na realidade, artefatos culturais que criamos ao inventar mitos e escrever escrituras. O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel colorido e, hoje em dia, mais de 90% do dinheiro nem são cédulas, mas apenas informação digital armazenada em computadores. O que dá valor ao dinheiro são as histórias que nos são contadas sobre ele pelos banqueiros, ministros da fazenda e gurus das criptomoedas. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram tão bons em criar valor real, mas todos eram contadores de histórias extremamente habilidosos. O que aconteceria uma vez que uma inteligência não humana se tornasse melhor que o ser humano médio ao contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam em ChatGPT e outras novas ferramentas de IA, muitas vezes se atraem por exemplos como as crianças em idade escolar usando IA para escrever seus ensaios. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta ignora o quadro geral. Esqueça os ensaios escolares. Pense na próxima corrida presidencial dos Estados Unidos, em 2024, e tente imaginar o impacto das ferramentas de IA que podem ser usadas para produzir em massa conteúdo político, notícias falsas e escrituras para novos cultos. Nos últimos anos, o culto Q Anon se agrupou em torno de mensagens anônimas online, conhecidas como “Q drops”. Os seguidores reuniam, reverenciavam e interpretavam esses Q drops como um texto sagrado. Embora, até onde sabemos, todos os Q drops anteriores tenham sido compostos por humanos e os bots apenas ajudassem na disseminação, no futuro poderíamos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não humana. Ao longo da história, as religiões reivindicaram uma fonte não humana para seus livros sagrados. Isso pode, em breve, se tornar realidade. Em um nível mais prosaico, em breve poderemos encontrar-nos mantendo longos debates online sobre aborto, mudanças climáticas ou a invasão russa da Ucrânia com entidades que acreditamos serem humanas, mas que na realidade são IA. O problema é que não faz sentido perdermos tempo tentando mudar as opiniões declaradas de um robô de IA, enquanto a IA poderia aprimorar seus argumentos com tal precisão que teria muitas chances de nos influenciar. Graças ao seu domínio da linguagem, a IA poderia até estabelecer relações íntimas com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões do mundo. Embora não haja indícios de que a IA tenha consciência ou sentimentos próprios, para criar uma falsa intimidade com os humanos, basta que a IA consiga fazer com que se sintam emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de IA La MDA, no qual estava trabalhando, havia se tornado consciente. A afirmação controversa lhe custou o emprego. O mais interessante neste episódio não foi a afirmação de Lemoine, que provavelmente era falsa, mas sua disposição em arriscar seu lucrativo emprego pelo bem do chatbot de IA. Se a IA for capaz de influenciar as pessoas a arriscar seus postos de trabalho por ela, o que mais ela poderia induzi-las a fazer? Em uma batalha política pelos corações e mentes, a intimidade é a arma mais eficaz, e a IA acaba de adquirir a capacidade de produzir em massa relações íntimas com milhões de pessoas. Todos sabemos que, na última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, o campo de batalha está passando de atenção para intimidade. O que acontecerá com a sociedade e a psicologia humana quando a IA lutar contra a IA em uma batalha para simular relações íntimas conosco, que depois possam ser usadas para nos convencer a votar em determinados políticos ou comprar determinados produtos? durante 12 segundos

Os computadores que contam histórias mudarão o curso da história humana, diz o historiador e filósofo

Os ouvidos da INTELIGÊNCIA ARTIFICIAL (IA) têm perseguido a humanidade desde o início da era informática. Até agora, esses temores se concentravam nas máquinas que utilizam meios físicos para matar, escravizar ou substituir as pessoas. Mas, nos últimos anos, surgiram novas ferramentas de IA que ameaçam a sobrevivência da civilização humana a partir de uma direção inesperada. A IA adquiriu habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. Dessa forma, a IA pirateou o sistema operacional da nossa civilização.

A linguagem é o material do qual é feita quase toda a cultura humana. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. São, antes, artefatos culturais que criamos ao contar histórias e escrever leis. Os deuses não são realidades físicas. São, antes, artefatos culturais que criamos ao inventar mitos e escrever escrituras.

O dinheiro também é um artefato cultural. As cédulas são apenas pedaços de papel coloridos e, atualmente, mais de 90% do dinheiro nem sequer são cédulas, mas apenas informação digital contida em computadores. O que confere valor ao dinheiro são as histórias que nos contam sobre ele os banqueiros, os ministros das finanças e os gurus das criptomoedas. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram especialmente bons em criar valor real, mas todos eram narradores de histórias extremamente capazes.

O que aconteceria uma vez que uma inteligência não humana se tornasse melhor do que o ser humano médio em contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e em outras novas ferramentas de IA, frequentemente se sentem atraídas por exemplos como crianças em idade escolar que usam IA para escrever seus ensaios. O que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta ignora o panorama geral. Esqueçam os ensaios escolares. Pensem na próxima corrida presidencial dos Estados Unidos em 2024 e tentem imaginar o impacto das ferramentas de IA que podem ser utilizadas para produzir em massa conteúdo político, notícias falsas e escrituras para novos cultos.

Nos últimos anos, o culto QAnon se agrupou em torno de mensagens anônimas online, conhecidas como “Q drops”. Os seguidores reuniam, reverenciavam e interpretavam esses Q drops como um texto sagrado. Embora, até onde sabemos, todos os Q drops anteriores tenham sido compostos por humanos e os bots simplesmente ajudassem a difundi-los, no futuro poderemos ver os primeiros cultos da história cujos textos reverenciados foram escritos por uma inteligência não humana. Ao longo da história, as religiões reivindicaram uma fonte não humana para seus livros sagrados. Em breve, isso poderá se tornar realidade.

Em um nível mais prosaico, em breve poderemos nos ver mantendo longas discussões online sobre o aborto, a mudança climática ou a invasão russa da Ucrânia com entidades que acreditamos serem humanos, mas que na verdade são IA. O problema é que não faz sentido perdermos tempo tentando mudar as opiniões declaradas de um robô de IA, enquanto a IA pode aperfeiçoar suas mensagens com tanta precisão que terá muitas chances de nos influenciar.

Graças ao seu domínio da linguagem, a IA poderia até estabelecer relações íntimas com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora não haja indícios de que a IA possua consciência ou sentimentos próprios, para fomentar uma falsa intimidade com os humanos basta que ela consiga fazer com que se sintam emocionalmente apegados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot de IA LaMDA, no qual estava trabalhando, havia se tornado consciente. A polêmica afirmação lhe custou o emprego. O mais interessante desse episódio não foi a afirmação de Lemoine, que provavelmente era falsa, mas sua disposição de arriscar seu lucrativo emprego pelo bem do chatbot de IA. Se a IA pode influenciar as pessoas para que arrisquem seus empregos por ela, o que mais poderia induzi-las a fazer?

Em uma batalha política pelas mentes e corações, a intimidade é a arma mais eficaz, e a IA acaba de adquirir a capacidade de produzir em massa relações íntimas com milhões de pessoas. Todos sabemos que, na última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana. Com a nova geração de IA, a linha de frente está passando da atenção para a intimidade. O que acontecerá com a sociedade e a psicologia humanas quando a IA lutar contra a IA em uma batalha para simular relações íntimas conosco, que depois poderão ser usadas para nos convencer a votar em determinados políticos ou comprar determinados produtos?

Mesmo sem criar uma “falsa intimidade”, as novas ferramentas de IA teriam uma influência imensa sobre nossas opiniões e visões de mundo. As pessoas poderiam acabar utilizando um único consultor de IA como um oráculo onisciente. Não é de surpreender que o Google esteja aterrorizado. Para que se dar ao trabalho de buscar, quando posso simplesmente perguntar ao oráculo? As indústrias de notícias e publicidade também deveriam estar aterrorizadas. Para que ler um jornal, quando posso simplesmente pedir ao oráculo que me diga as últimas notícias? E que propósito têm os anúncios, quando posso simplesmente pedir ao oráculo que me diga o que comprar?

E nem mesmo esses cenários refletem realmente o panorama geral. Do que estamos falando é do possível fim da história humana. Não do fim da história, mas apenas do fim da parte dominada pelos humanos. A história é a interação entre a biologia e a cultura; entre nossas necessidades e desejos biológicos de coisas como a comida e o sexo, e nossas criações culturais, como as religiões e as leis. A história é o processo pelo qual as leis e as religiões moldam a comida e o sexo.

O que acontecerá com o curso da história quando a IA tomar conta da cultura e começar a produzir histórias, melodias, leis e religiões? As ferramentas anteriores, como a imprensa e o rádio, ajudaram a disseminar as ideias culturais dos humanos, mas nunca criaram novas ideias culturais próprias. A IA é fundamentalmente diferente. A IA pode criar ideias completamente novas, uma cultura completamente nova.

No início, a IA provavelmente irá imitar os protótipos humanos com os quais foi treinada em seus primórdios, mas a cada ano que passa, a cultura da IA se atreverá a ir aonde nenhum ser humano jamais foi. Durante milênios, os seres humanos viveram dentro dos sonhos de outros seres humanos. Nas próximas décadas, poderíamos nos encontrar vivendo dentro dos sonhos de uma inteligência extraterrestre.

O medo da IA tem perseguido a humanidade durante as últimas décadas, mas por milhares de anos os humanos foram assombrados por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipular nossas mentes e criar ilusões. Em consequência, desde a antiguidade os humanos temeram ficar presos em um mundo de ilusões.

No século XVII, René Descartes temia que talvez um demônio maligno o estivesse aprisionando dentro de um mundo de ilusões, criando tudo o que ele via e ouvia. Na Grécia Antiga, Platão contava a famosa Alegoria da Caverna, na qual um grupo de pessoas está acorrentado dentro de uma caverna por toda a vida, diante de uma parede em branco. Uma tela. Nessa tela, veem-se projetadas várias sombras. Os prisioneiros confundem as ilusões que veem ali com a realidade.

Na antiga Índia, os sábios budistas e hindus apontaram que todos os seres humanos viviam presos em Maya, o mundo das ilusões. O que normalmente consideramos realidade muitas vezes não passa de ficções em nossa própria mente. As pessoas podem travar guerras inteiras, matar outras e estar dispostas a serem mortas, devido à crença em uma ou outra ilusão.

A revolução da inteligência artificial está nos colocando frente a frente com o demônio de Descartes, com a caverna de Platão, com os mayas. Se não tomarmos cuidado, podemos ficar presos atrás de uma cortina de ilusões que não conseguimos arrancar, ou da qual nem sequer percebemos que está lá.

Claro, o novo poder da IA também poderia ser utilizado para fins benéficos. Não me estenderei neste tema, pois aqueles que desenvolvem a IA falam sobre isso o suficiente. O trabalho de historiadores e filósofos como eu é apontar os perigos. Mas, sem dúvida, a IA pode nos ajudar de inúmeras maneiras, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A questão que se coloca diante de nós é como garantir que as novas ferramentas da IA sejam utilizadas para o bem e não para o mal. Para isso, primeiro precisamos apreciar as verdadeiras capacidades dessas ferramentas.

Desde 1945, sabemos que a tecnologia nuclear pode gerar energia barata para o benefício dos seres humanos, mas também pode destruir fisicamente a civilização humana. Por isso, reestruturamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja utilizada principalmente para o bem. Agora precisamos enfrentar uma nova arma de destruição em massa que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de IA, mas devemos agir com rapidez. Enquanto as armas nucleares não podem inventar armas nucleares mais potentes, a IA pode criar IA exponencialmente mais potente. O primeiro passo crucial é exigir controles de segurança rigorosos antes que sejam lançadas ferramentas de IA poderosas no domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais a curto e longo prazo, as empresas de tecnologia não deveriam lançar novas ferramentas de IA antes de comprovar que são seguras. Precisamos de um equivalente à Administração de Alimentos e Medicamentos para as novas tecnologias, e precisamos disso já.

Não fará com que a desaceleração da implementação pública da IA faça com que as democracias fiquem atrasadas em relação a regimes autoritários mais impiedosos? Muito pelo contrário. A implementação descontrolada da IA criaria um caos social que beneficiaria os autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas dependem da linguagem. Quando a IA invadir a linguagem, poderia destruir nossa capacidade de manter conversas significativas, destruindo assim a democracia.

Acabamos de encontrar uma inteligência extraterrestre aqui na Terra. Não sabemos muito sobre ela, exceto que ela poderia destruir nossa civilização. Devemos pôr fim ao desdobramento irresponsável das ferramentas de IA na esfera pública e regular a IA antes que ela nos regule. E a primeira regulamentação que eu sugeriria é tornar obrigatório que a IA revele que é uma IA. Se estou mantendo uma conversa com alguém e não consigo distinguir se é um humano ou uma IA, esse é o fim da democracia.

Este texto foi gerado por um humano.

Fontes

Yuval Noah Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e da série infantil “Unstoppable Us”. É professor no departamento de história da Universidade Hebrea de Jerusalém e cofundador da Sapienship, uma empresa de impacto social.

Inteligência artificial – THE ECONOMIST. Original em inglês.

Traduzido por Traduzido por Equipe de Future Lab