O autor de “Sapiens” dialogou com a imprensa em espanhol para apresentar “Nexus”, seu novo livro sobre os perigos que podem vir. Explicou por que ele é diferente de todas as tecnologias anteriores, o que implicaria sua autonomia, como ameaça a privacidade e o que poderia fazer à nossa psicologia e às nossas estruturas sociais

Em seu novo livro, Nexus, Yuval Noah Harari alerta sobre os perigos da inteligência artificial (IA), que é “um agente”, ou seja, uma entidade com capacidade de agir no mundo, não mais uma mera ferramenta do ser humano. “É um agente independente”, repetiu em diálogo com jornalistas da América Latina e da Espanha. “Por isso é diferente de qualquer tecnologia anterior que tenhamos inventado”. Como se a bomba atômica pudesse ser capaz de decidir onde cai e melhorar sua própria tecnologia por si mesma.

A IA pode. “Ela começa produzindo textos, imagens, código de computador. E, em última instância, poderia criar uma IA mais poderosa”, explicou. Uma explosão da IA que ficaria fora do controle humano.

“As pessoas do setor estão presas nessa mentalidade de corrida armamentista, algo extremamente perigoso”, enfatizou. A ideia de desenvolver a IA o mais rápido possível e depois, no percurso, à medida que os problemas surgirem, ir vendo como podem ser resolvidos, parece-lhe descabida. “É como se alguém colocasse na estrada um carro sem freios e dissesse: ‘Nos concentramos em que ele vá o mais rápido que puder, e se houver algum problema no caminho, procuramos uma maneira de inventar freios e instalá-los”, ironizou. “Não funciona assim nos carros”. E dificilmente vai funcionar com a IA.

A IA, uma inteligência que não é baseada em carbono, como o cérebro das pessoas, mas em materiais inorgânicos, nasce livre de muitas das limitações orgânicas dos nossos neurônios. “Os chips de silício podem gerar espiões que nunca dormem, banqueiros que nunca esquecem e déspotas que nunca morrem”, advertiu o professor que ministra história na Universidade Hebraica de Jerusalém.

Claro que reconheceu que a IA “tem um enorme potencial positivo”. Talvez não muito longe no século XXI haja uma revolução na assistência à saúde, deu como exemplo: “Hoje há escassez de médicos em muitos países, mas poderíamos tê-los em número ilimitado, e com muito mais conhecimento do que qualquer médico humano, atualizado diariamente com todas as descobertas de toda a pesquisa em todo o mundo. Poderíamos tê-los conosco 24 horas por dia, nos dando conselhos adaptados à nossa biologia individual. Isso é algo que os médicos humanos não podem fazer e, além disso, será muito mais barato do que um médico humano”.

E, no entanto, ele escolheu que Nexus se concentrasse no “lado perigoso da IA”. A razão é simples, contou: “Temos todas essas corporações extremamente ricas e poderosas que inundam as pessoas com histórias positivas, com previsões otimistas, e ignoram os perigos. Então, torna-se o trabalho dos filósofos, dos historiadores como eu, iluminar o outro lado”. Como homem de ciência, jamais lhe ocorreria opor-se ao desenvolvimento do saber. “Só digo que é preciso investir mais em segurança. Certificar-se de que essa tecnologia é segura, algo de bom senso em todas as demais indústrias”.

ChatGPT é a ameba: como será o dinossauro da IA?

Harari destacou a importância de que a mais recente IA tenha adquirido a capacidade de criar histórias. “Já sei que muitas pessoas dizem que ela escreve textos que não são muito bons, que cria músicas que não são muito boas, que produz imagens com erros, como pessoas com seis dedos. Mas esses são apenas os primeiros passos da IA. Ainda não vimos nada”.

A revolução da IA tem cerca de 10 anos, estimou, e propôs uma comparação com a evolução biológica: os sistemas de IA de hoje são apenas amebas. São IAs muito, muito simples. Lembremos que as amebas levaram bilhões de anos para evoluir até se tornarem dinossauros, mamíferos e humanos, porque a evolução orgânica é lenta. Mas a digital é muito, muito mais rápida. ChatGPT, a ameba IA, não levará um bilhão de anos para evoluir para o dinossauro IA. Poderia levar apenas 10 ou 20 anos. E como seria o T-Rex da IA? O que ele poderia fazer?

O que os grandes modelos de linguagem (LLM) fazem hoje não é uma versão ampliada da função de autocompletar do buscador do Google, insistiu o pensador israelense. “Eles podem criar parágrafos inteiros, histórias e ensaios que estão cheios de erros, mas fazem sentido. Isso é algo que os humanos têm dificuldade: como professor universitário, leio um monte de trabalhos escritos por estudantes que têm dificuldade em escrever um ensaio coerente que crie um argumento conectando diferentes ideias. A IA já pode fazer isso. Agora mesmo. Onde estará isso daqui a cinco ou dez anos?”.

Também é difícil imaginar qual impacto pode ter, desde o mais superficial até o mais íntimo, na vida das pessoas, que até o momento vivemos “protegidos no casulo da cultura humana”, definiu Harari. “Todas as histórias, toda a música, todos os poemas, todas as imagens eram produto da mente humana. Agora, cada vez mais desses artefatos culturais serão produto de uma inteligência alheia. O que isso fará à sociedade humana? À psicologia humana? Ninguém sabe.”

O sonho totalitário

Já em Homo Deus, Harari havia falado sobre alguns dos riscos que as novas tecnologias da informação representam para a humanidade. Mas, ao criar um agente capaz de ter independência, e não mais uma ferramenta sujeita à vontade humana, a IA abre portas inexploradas. Sobretudo, num momento de crise global profundamente definido pelas assimetrias e pela polarização. “A conversa está se rompendo”, apontou. “As pessoas não conseguem concordar nos fatos mais básicos, as pessoas já não conseguem manter uma conversa racional”. E Harari não pode deixar de pensar que isso acontece justamente depois que “esses gigantes da tecnologia criaram tecnologias da informação incrivelmente sofisticadas que, segundo nos prometeram, nos iriam conectar”.

Sem ser determinista — “tudo depende das decisões que tomarmos”, disse em mais de uma ocasião —, Harari acredita que é imprescindível “compreender que na IA há um potencial totalitário como nunca vimos antes”.

Diferentemente dos regimes autoritários, que controlam a esfera política, mas deixam o indivíduo a maior parte do tempo, o totalitarismo precisa saber o que cada pessoa faz a cada minuto do dia. “Stalin, na União Soviética, e Adolf Hitler, na Alemanha, não queriam apenas controlar o exército e o orçamento: queriam controlar cada aspecto da vida, a totalidade da vida das pessoas, cada momento. O que ouves, o que vês, o que dizes, com quem te encontras. Mas Hitler e Stalin tinham limites para controlar os seus súditos, porque não podiam acompanhar todo mundo o tempo todo”. A IA pode. Não precisa descansar nem comer, não quer sair com a parceira nem tirar férias na montanha.

Mesmo se Hitler ou Stalin tivessem tido três agentes de inteligência para cada cidadão, quem leria e processaria todos esses relatórios, três por dia, sobre cada um? “Essa informação é apenas a base para o regime totalitário; alguém precisa ler todos os papéis, analisá-los e encontrar padrões”. A IA não permitirá que os prontuários acumulem poeira num escritório. “A IA poderia tornar possível a criação de regimes de vigilância total que aniquilariam a privacidade”, resumiu Harari. “Num país de IA, não se precisam de agentes humanos para seguir todos os humanos em todos os lugares: tens smartphones, reconhecimento facial e computadores. E também não se precisam de analistas humanos para revisar todas as informações: a IA pode revisar imensas quantidades de informação (vídeos, imagens, textos, áudio), analisá-la e reconhecer padrões”.

Menos ingenuidade e mais compaixão

Nexus retoma ideias de Sapiens e 21 Lições para o Século XXI para recordar que a cooperação fez com que o modesto Homo sapiens se tornasse o que é hoje. “O argumento principal deste livro é que a humanidade conquista um poder enorme por meio da construção de grandes redes de cooperação, mas a forma como essas redes são construídas a predispoem a fazer um uso imprudente do poder”.

Um tema central é o que ele chama de “a ideologia semioficial da era da informática e da internet”, segundo a qual, quanto mais informação, mais conhecimento. Essa falácia, ou “visão ingênua, que domina lugares como o Silicon Valley”, confunde informação com verdade. Mas informação é o material em bruto: “A verdade é um subconjunto raro dentro da informação”. A maior parte da informação do mundo, enfatizou, “é lixo, não é verdade”. É muito fácil criar e disseminar informação falsa. Em contraste, “a verdade é custosa, requer tempo, dinheiro e esforço”.

A visão ingênua seria, no fundo, curiosamente anticientífica. Afinal, segundo essa perspectiva — ilustrada no livro — um racista é uma pessoa mal informada à qual se deve dar mais dados sobre a biologia e a história. Isso, sabe-se, não se verifica na vida real.

“Essa visão ingênua justifica a busca por tecnologias da informação cada vez mais potentes” e a liberação nas estradas de automóveis sem freios. Ao mesmo tempo, complementa-se de forma perniciosa com o olhar mais cínico da humanidade, uma concepção onde “historicamente encontram-se a extrema direita e a extrema esquerda”, opinou. “Compartilham uma profunda desconfiança nas instituições que são garantidoras da verdade. O que se ouve tanto na extrema direita como na extrema esquerda é a suspeita de todas as instituições que tradicionalmente foram estabelecidas pela sociedade humana para identificar e promover a verdade, desde os meios de comunicação até as universidades, passando pelos tribunais”.

Por que? “Tanto a extrema direita como a extrema esquerda compartilham uma visão muito cínica do mundo, segundo a qual a única realidade é o poder: aos seres humanos só lhes interessa conquistar poder e todas as interações humanas são lutas de poder”.

Para encerrar com um tom mais amável, Harari lembrou que essa não é a única perspectiva. “Devemos nos lembrar de que existe uma visão mais compassiva dos humanos. Nem todo mundo está obcecado com o poder. Nem sempre que alguém me diz algo está tentando me manipular. Existe corrupção? Sim, e para isso temos várias instituições que se equilibram entre si. Mas a ideia de que todo o jornalismo é apenas uma camarilla elitista para manipular as pessoas, de que toda a ciência é apenas uma conspiração, está destruindo a confiança e a democracia.”

Yuval Noah Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e da série infantil “Unstoppable Us”. É professor no departamento de história da Universidade Hebraica de Jerusalém e cofundador da Sapienship, uma empresa de impacto social.