O tema da Inteligência Artificial, com seu enorme alcance e o pouco que realmente sabemos – em muitos casos ainda estamos em uma fase intuitiva – gerou uma autêntica avalanche de estudos, opiniões, controvérsias e debates acalorados que praticamente acontecem diariamente.

Nosso Laboratório entende que um dos melhores serviços que pode prestar a todas aquelas pessoas e organizações que acompanham nosso trabalho é oferecer uma Série selecionada dessas opiniões, posições e debates, levados praticamente ao dia em que se produzem, para manter genuinamente informados aqueles que estão atentos ao que está acontecendo e à nossa visão.

Por sinal, o Laboratório está trabalhando em seu Microlab de Inteligência Artificial e, oportunamente, fará saber suas conclusões e percepções, mas a urgência do tema não admite muitas demoras. Essa é a razão pela qual hoje iniciamos uma Série sobre Inteligência Artificial, que esperamos seja o fermento para análise, reflexão e conclusões sobre a projeção que um tema dessa magnitude nos obriga a abordar. Ninguém, nem governos, nem organismos internacionais, nem organismos regionais, think tanks e indivíduos podem permanecer indiferentes à sua evolução.

Como sempre, esperamos que nosso serviço possa ser útil.

Yuval Noah Harari argumenta que a IA hackeou o sistema operacional da civilização humana

Os computadores que contam histórias mudarão o curso da história humana, diz o historiador e filósofo

Ter calma com as profecias e as especulações:

Dentro de nossa série sobre Inteligência Artificial, decidimos hoje analisar as últimas declarações e artigos de Yuval Harari. Como é de conhecimento geral, o Dr. Harari é historiador, filósofo e autor de “Sapiens”, “Homo Deus” e da série infantil “Unstoppable Us”. Ele é professor no departamento de história da Universidade Hebraica de Jerusalém e cofundador da Sapienship, uma empresa de impacto social. Geralmente é ouvido como uma autoridade importante na interpretação do futuro, que realiza do ponto de vista sociológico e filosófico.

Harari disse ao The Guardian que “a IA hackeou o sistema operacional da civilização humana”. Esta é uma frase muito forte e que sem dúvida chama a atenção, podendo justificar uma possibilidade que ninguém sabe se ocorrerá. Com total franqueza e com todo o respeito ao Dr. Harari, em alguns casos, isso pode ser tomado como uma afirmação temerária, que eventualmente fundamenta-se no prestígio de uma carreira acadêmica muito importante, mas que justifica em alguns casos certas afirmações que nos soam um pouco apocalípticas. Não sabemos qual a probabilidade de isso acontecer. Às vezes, como aqui com Harari, também são incompreensíveis. Mas dizê-lo em 2023 é chamativo e serve, assim como os tiktoks virais que exageram, para hackear nossa atenção, que é o que mais rapidamente se hackeia.

É lógico pensar que a IA pode trazer problemas graves, mas faltam certezas. Se o “padrinho da IA” (Geoffrey Hinton, Prêmio Turing 2018, que analisaremos em outro artigo desta série) se equivocou em sua previsão há seis anos, ele pode errar novamente agora. Harari também incluiu em um artigo em março de 2023 no New York Times que metade dos “pesquisadores em IA” acredita que há 10% de chances de que a IA nos mate a todos. Mas não é verdade. Esse artigo o colocou na discussão e o projetou, saltando para outros meios e redes, garantindo “tabelas” para manter a posição de super especialista. Isso deveria, em todo caso, chamar cada opinante à prudência, pois o que é verdade é que não sabemos.

A verdade é que todos devemos ser muito prudentes nesse tema. Da mesma maneira que dissemos que é preciso ter cuidado com Altman, também devemos ter cuidado com outros eventuais profetas, e concentrar-nos no que realmente está acontecendo e, quando não estamos certos – e eventualmente muito inseguros – regular o avanço de alguns fatos sobre os quais podemos ter certezas de que podem ser potencialmente perigosos.

As ideias de Harari sobre o hackeamento da civilização pela Inteligência Artificial:

Os temas da inteligência artificial perseguem a humanidade desde o início da era dos computadores, de acordo com o que Harari nos diz. Até o momento, esses temores se concentravam nas máquinas que utilizavam meios físicos para matar, escravizar ou substituir as pessoas. Mas, nos últimos anos, surgiram novas ferramentas de inteligência artificial que parecem ameaçar a sobrevivência da civilização humana a partir de uma direção inesperada. É verdade que a Inteligência Artificial parece ter adquirido algumas habilidades notáveis para manipular e gerar linguagem, seja com palavras, sons ou imagens. A partir daí, Harari sustenta que a Inteligência Artificial hackeou, assim, o sistema operacional de nossa civilização. Pode ser que sim ou pode ser que não, vamos com calma. É verdade que surgiram manifestações que não entendemos e até certos vieses que ainda não conseguimos explicar, mas de lá a afirmar que estamos nas mãos de Hal, a maravilhosa máquina de 2001: Uma Odisseia no Espaço, há uma grande distância.

A ideia não é refutar nem o Dr. Harari nem o Dr. Hinton. A ideia é colocar moderação em um debate que está esquentando demais, onde há afirmações um pouco temerárias, onde há muitas coisas que ainda não sabemos e com as quais devemos ter cautela. Mas uma coisa é isso, e outra é adiantar que a Inteligência Artificial está prestes a assumir a condução da civilização humana. Enfim, há alguns de nós que confiamos bastante na inteligência humana, ao menos por enquanto, e mesmo com alguns que parecem caminhar por um caminho complicado em relação ao desenvolvimento tecnológico.

A argumentação de Harari é muito interessante: ele nos diz que a linguagem é o material do qual quase toda a cultura humana é feita. Os direitos humanos, por exemplo, não estão inscritos em nosso DNA. Na verdade, são artefatos culturais que criamos ao contar histórias e escrever leis. Os deuses não são realidades físicas. Na verdade, são artefatos culturais que criamos ao inventar mitos e escrever escrituras.

O dinheiro também é um artefato cultural. As cédulas de banco são apenas pedaços de papel colorido e, atualmente, mais de 90% do dinheiro nem são cédulas, mas sim apenas informações digitais em computadores. O que dá valor ao dinheiro são as histórias que banqueiros, ministros da Fazenda e gurus das criptomoedas nos contam sobre ele. Sam Bankman-Fried, Elizabeth Holmes e Bernie Madoff não eram particularmente bons em criar valor real, mas todos eram narradores extremamente habilidosos. Certamente, podemos adicionar a esses comentários que o dinheiro, que é uma mercadoria, tem sua concepção de valor baseada puramente na fé.

O que aconteceria uma vez que uma inteligência não humana fosse melhor que o ser humano médio para contar histórias, compor melodias, desenhar imagens e escrever leis e escrituras? Quando as pessoas pensam no ChatGPT e outras novas ferramentas de Inteligência Artificial, muitas vezes são atraídas por exemplos como crianças em idade escolar que o usam para escrever seus ensaios (por sinal, há pessoas que têm uma notória tendência para aplicar a lei do mínimo esforço; agora bem, e dependendo da frase popular “feita a lei, feita a trapaça”, sabemos que a toda ação corresponde uma reação). Com isso, o que acontecerá com o sistema escolar quando as crianças fizerem isso? Mas esse tipo de pergunta perde o panorama geral. Esqueça os ensaios escolares. Pense na próxima corrida presidencial dos EUA em 2024 e tente imaginar o impacto das ferramentas de IA que podem ser usadas para produzir conteúdo político em massa, notícias falsas e escrituras para novos cultos. Todas essas afirmações no final da frase são elementos para reflexão. Sem dúvida, a influência – e já vimos nas manipulações de dados do Facebook, por exemplo – é possível, especialmente quando a inteligência humana tem a tentação de descansar em sucedâneos não totalmente confiáveis.

Cultos criados pela Inteligência Artificial?

Nos últimos anos, o culto ao QAnon se formou em torno de mensagens anônimas online, conhecidas como “Q drops”. Os seguidores coletaram, veneraram e interpretaram essas gotas Q como um texto sagrado. Embora, até onde sabemos, todos os Q drops anteriores tenham sido compostos por humanos, e os bots apenas ajudaram a divulgá-los, no futuro poderíamos ver os primeiros cultos na história cujos textos venerados foram escritos por uma inteligência não humana. As religiões ao longo da história afirmaram uma fonte não humana para seus livros sagrados. Em breve, isso pode se tornar uma realidade. Sem dúvida, é uma possibilidade. E uma possibilidade inquietante.

Em um nível mais prosaico, é possível que em breve nos encontremos realizando longas discussões online sobre o aborto, as mudanças climáticas ou a invasão russa da Ucrânia com entidades que acreditamos serem humanas, mas que, na verdade, são inteligência artificial. O problema é que não faz sentido dedicarmos tempo para tentar mudar as opiniões declaradas de um bot de inteligência artificial, enquanto ele poderia aprimorar suas mensagens com tanta precisão que tem boas chances de nos influenciar.

Através de seu domínio da linguagem, a inteligência artificial poderia até estabelecer relações íntimas (temos evidências de que isso aconteceu, em atos isolados, mas aconteceu) com as pessoas e usar o poder da intimidade para mudar nossas opiniões e visões de mundo. Embora, por enquanto, não haja indícios (são questões com as quais precisamos trabalhar seriamente) de que a inteligência artificial tenha consciência ou sentimentos próprios, para fomentar uma intimidade falsa com os humanos basta que ela consiga fazer com que se sintam emocionalmente ligados a ela. Em junho de 2022, Blake Lemoine, um engenheiro do Google, afirmou publicamente que o chatbot no qual estava trabalhando havia se tornado sensível. A controversa afirmação lhe custou o emprego. O mais interessante desse episódio não foi a afirmação do Sr. Lemoine, que provavelmente era duvidosa ou, ao menos, influenciada por uma percepção emocional que não tinha peso racional para justificar a afirmação. Agora, se a inteligência artificial pode influenciar as pessoas a arriscarem seus empregos por ela, o que mais ela poderia induzi-las a fazer?

Uma batalha a ser travada:

Harari diz que estamos diante de uma batalha política pelas mentes e corações, a intimidade é a arma mais eficiente, e a inteligência artificial acaba de obter a capacidade de produzir relações íntimas em massa com milhões de pessoas. Todos sabemos que, durante a última década, as redes sociais se tornaram um campo de batalha para controlar a atenção humana, e que, aliás, se tornaram o principal local onde as pessoas, nesta evolução particular das relações humanas, buscam suas relações de afeto. E aqui, concordo fortemente com Harari, com a nova geração de inteligência artificial, a linha de frente da batalha está passando da atenção para a intimidade. O que acontecerá, então, com a sociedade e a psicologia humana quando a inteligência artificial lutar contra a inteligência emocional em uma batalha para fingir relações íntimas conosco, que depois podem ser usadas para nos convencer a votar em políticos específicos ou comprar produtos específicos? E ainda, algo que pode ser muito mais complexo, que é a delicadeza nas relações entre humanos. Por certo, aqui é preciso investigar e fazer isso com o maior ênfase possível.

Mesmo sem criar uma “intimidade falsa”, as novas ferramentas da inteligência artificial teriam uma imensa influência em nossas opiniões e visões de mundo. As pessoas podem acabar utilizando um único conselheiro dessa inteligência como um oráculo onisciente e de uma só parada (há muitas pessoas esperando por isso, e não é uma afirmação gratuita, pois podemos observar isso todos os dias nas redes sociais, e em particular algumas delas. Não é preciso individualizá-las neste momento. Já chegará esse momento). Não é de se admirar que alguns dos responsáveis do Google estejam aterrorizados (embora não queiram perder o trem do imenso negócio que está por trás de tudo isso). Por que se dar o trabalho de procurar, quando posso apenas perguntar ao oráculo? As indústrias de notícias e publicidade também deveriam estar aterrorizadas. Por que ler um jornal quando posso simplesmente pedir ao oráculo que me diga as últimas notícias? E qual é o propósito dos anúncios, quando posso simplesmente pedir ao oráculo que me diga o que comprar? Vejamos, a Amazon e outros já descobriram isso há muito tempo, trata-se apenas de potencializar isso.

Harari, o fim da história humana e a necessidade de agir com cautela em algumas afirmações:

Mesmo esses cenários não capturam realmente o panorama geral. O que estamos falando é potencialmente do fim da história humana. Não é o fim da história, apenas o fim da sua parte dominada pelos humanos. A história é a interação entre biologia e cultura; entre nossas necessidades e desejos biológicos de coisas como comida e sexo, e nossas criações culturais como religiões e leis. A história é o processo pelo qual as leis e as religiões moldam a comida e o sexo. Estamos aqui à beira de um terreno perigoso e o ponto onde eu estimo que Harari queria chegar desde o início. A inversão do controle humano para o controle da inteligência artificial e, por que não perguntar?, que controle humano poderia se erguer atrás da inteligência artificial…? Por certo, isso por si só já daria para um Tratado.

Continua Harari, partindo da base da suposição de que essa inversão de controle de inteligências realmente aconteça: O que acontecerá com o curso da história quando a inteligência artificial assumir o controle da cultura e começar a produzir histórias, melodias, leis e religiões? As ferramentas anteriores, como a imprensa e o rádio, ajudaram a difundir as ideias culturais dos humanos, mas nunca criaram novas ideias culturais próprias. A IA é fundamentalmente diferente. A IA pode criar ideias completamente novas, uma cultura completamente nova.

No começo, a inteligência artificial provavelmente imitará os protótipos humanos nos quais foi treinada em sua infância. Mas a cada ano que passa, a cultura desse tipo de inteligência irá ousadamente para onde nenhum humano foi antes. Durante milênios, os seres humanos viveram dentro dos sonhos de outros humanos. Nas próximas décadas, poderíamos nos encontrar vivendo dentro dos sonhos de uma inteligência alienígena. Por certo, a referência alienígena não responde aos conceitos comuns, não estamos falando de seres extraterrestres, mas de inteligências não humanas, ainda que tenham sido criadas – paradoxalmente – por humanos.

Isso que vimos é de grande interesse. O que segue, muito relacionado com os sonhos e com o storytelling, fica a cargo de Harari. Não estou tão de acordo. É subordinar a mente humana a mitos e sonhos e, essa, é uma questão sobre a qual discutir longamente. Assim, Harari afirma que o medo da inteligência artificial perseguiu a humanidade apenas durante as últimas décadas (e estaríamos partindo da base que um conjunto amplo da humanidade sabe e teme a inteligência artificial, o que francamente me parece artificial). Mas durante milhares de anos, os seres humanos foram perseguidos por um medo muito mais profundo. Sempre apreciamos o poder das histórias e das imagens para manipular nossa mente e criar ilusões. Consequentemente, desde a antiguidade, os humanos temeram ficar presos em um mundo de ilusões (o medo dos sonhos?, quando os sonhos foram o motor do avanço dos humanos. Francamente, me parece excessivo…, com todo respeito pelas construções e pelo pensamento do Mestre Harari).

No século XVII, René Descartes temia que talvez um demônio maligno o estivesse aprisionando dentro de um mundo de ilusões, criando tudo o que via e ouvia. Na Grécia Antiga, Platão contou a famosa Alegoria da Caverna, na qual um grupo de pessoas está acorrentado dentro de uma caverna durante toda a vida, diante de uma parede em branco. Uma tela. Nessa tela, veem projetadas várias sombras. Os prisioneiros confundem as ilusões que veem ali com a realidade. Sem dúvida, mas estamos nos referindo a Mestres, o homem e a mulher do povo, que lutam diariamente pelo pão, questão que não mudou durante séculos, isso está um pouco distante dessas dissertações filosóficas.

Adiciona, fazendo uso de sua teoria, o autor: na Índia Antiga, os sábios budistas e hindus apontaram que todos os humanos viviam aprisionados dentro de Maya, o mundo das ilusões. O que normalmente tomamos como realidade muitas vezes são apenas ficções em nossas próprias mentes. As pessoas podem empreender guerras inteiras, matando outros e desejando que as matem, devido à sua crença nesta ou naquela ilusão. Outro dos elementos que podemos discutir e longamente.

Alguma boa notícia parece chegar:

Claro, o novo poder da inteligência artificial também poderia ser usado para bons propósitos. Não vou me deter nisso, pois as pessoas que a desenvolvem falam bastante sobre isso. O trabalho de historiadores e filósofos como eu é apontar os perigos. Mas certamente, a IA pode nos ajudar de inúmeras formas, desde encontrar novas curas para o câncer até descobrir soluções para a crise ecológica. A pergunta que enfrentamos é como garantir que as novas ferramentas sejam usadas para o bem e não para o mal. Para fazer isso, primeiro devemos apreciar as verdadeiras capacidades dessas ferramentas.

Desde 1945 sabemos que a tecnologia nuclear poderia gerar energia barata em benefício dos humanos, mas também poderia destruir fisicamente a civilização humana. Portanto, remodelamos toda a ordem internacional para proteger a humanidade e garantir que a tecnologia nuclear seja utilizada principalmente para o bem. Agora temos que lidar com uma nova arma de destruição massiva que pode aniquilar nosso mundo mental e social.

Ainda podemos regular as novas ferramentas de IA, mas devemos agir rapidamente. Enquanto as armas nucleares não podem inventar armas nucleares mais poderosas, a inteligência artificial pode criar uma inteligência exponencialmente mais poderosa. O primeiro passo crucial é exigir controles de segurança rigorosos antes que as poderosas ferramentas sejam lançadas ao domínio público. Assim como uma empresa farmacêutica não pode lançar novos medicamentos antes de testar seus efeitos colaterais a curto e longo prazo, as empresas de tecnologia não deveriam lançar novas ferramentas de inteligência artificial antes de serem seguras. Precisamos de um equivalente da Administração de Alimentos e Medicamentos para novas tecnologias, e precisamos disso para ontem. O que, por sinal, é uma ideia completamente compartilhável e combatível no sentido de fazer campanha para isso.

A próxima pergunta de Harari é mais do que interessante. A desaceleração dos desdobramentos públicos da inteligência artificial não fará com que as democracias fiquem para trás de regimes autoritários mais impiedosos? Pelo contrário. Os desdobramentos dessa tecnologia não regulamentados criariam caos social, o que beneficiaria os autocratas e arruinaria as democracias. A democracia é uma conversa, e as conversas se baseiam na linguagem. Quando a tecnologia invade a linguagem, ela pode destruir nossa capacidade de ter conversas significativas, destruindo assim a democracia. Nesse sentido – e sem atribuí-lo a Harari – o caso mais claro é o da República Popular da China.

Finalmente, Harari termina com uma sentença apocalíptica, mas muito válida. Acabamos de encontrar uma inteligência extraterrestre, aqui na Terra. Não sabemos muito sobre ela, exceto que poderia destruir nossa civilização. Devemos pôr fim ao desdobramento irresponsável de ferramentas de inteligência artificial na esfera pública e regulamentá-las antes que elas nos regulamentem. E a primeira regulamentação que sugeriria é tornar obrigatório que a inteligência artificial tenha a obrigação de revelar que é o que é. “Se estou tendo uma conversa com alguém e não consigo dizer se é um ser humano ou uma inteligência artificial, esse é o fim da democracia.”

---

QAnon ou Q: (abreviação de Q-Anônimo) é uma das principais teorias da conspiração da extrema direita americana, que detalha uma suposta trama secreta organizada por um suposto “Estado profundo” contra Donald Trump e seus seguidores.

A ideia geral da trama é que há atores de Hollywood, identificados como politicamente progressistas, políticos do Partido Democrata e funcionários de alto escalão que participam de uma rede internacional de tráfico sexual de crianças e cometem atos pedófilos; e que Trump está investigando e perseguindo-os para prevenir um suposto golpe de Estado orquestrado por Barack Obama, Hillary Clinton e George Soros. Os meios de comunicação descreveram o QAnon como um “ramo” da teoria da conspiração Pizzagate, e muitos o consideram uma atualização dos protocolos dos sábios de Sion.

Embora tenha origem nos Estados Unidos, há um movimento QAnon fora dos Estados Unidos, inclusive no Reino Unido e na França desde 2020, com um movimento “particularmente forte e crescente” na Alemanha e no Japão. Os adeptos japoneses do QAnon também são conhecidos como “JAnon”.

Os seguidores do QAnon comumente rotulam suas postagens nas redes sociais com a hashtag #WWG1WGA, que significa o lema “Where We Go One, We Go All” (traduzido como Onde vamos um, vamos todos), derivado do filme White Squall de 1996.

A teoria começou com uma postagem, em outubro de 2017, feita por um anônimo no fórum 4chan que usava o nome Q. Este era, aparentemente, um indivíduo americano, mas mais tarde cresceu até se tornar um grupo de pessoas, que afirmava ter acesso a informações classificadas sobre a administração Trump. “Q” é uma referência à autorização de acesso Q utilizada pelo Departamento de Energia dos Estados Unidos, necessária para acessar dados restritos de alto segredo e informações de segurança nacional. Segundo a cadeia NBC, pelo menos três pessoas pegaram a postagem original de “Q” e logo a republicaram em várias plataformas como 4chan, como “FBIAnon”, “HLIAnon”, “CIAAnon” e “WH Insider Anon”.

Os seguidores do QAnon começaram a aparecer nos comícios de campanha da reeleição de Trump em agosto de 2018, recebendo bastante promoção nas redes sociais e algumas estações de rádio, chegando a organizar comícios nas proximidades da Casa Branca. Em agosto de 2019, o FBI publicou um relatório no qual classificava o QAnon como uma fonte potencial de terrorismo interno, a primeira vez que essa agência classificava um grupo derivado de uma teoria da conspiração dessa maneira. Segundo a análise da organização Media Matters for America, em outubro de 2020, Trump havia amplificado as mensagens do QAnon pelo menos 265 vezes ao retuitar ou mencionar 152 contas do Twitter afiliadas ao QAnon, às vezes várias vezes por dia. Os seguidores do QAnon se referem a Donald Trump como “Q+”.

O número exato de adeptos do QAnon é incerto, mas grande parte de sua atividade é online. O site do mural de imagens 8chan (renomeado como 8kun em 2019) é o lar online do QAnon, já que é o único lugar onde “Q” publica mensagens. Em junho de 2020, em uma postagem no 8chan, Q exortou seus seguidores a fazer um “juramento de soldados digitais”; coisa que muitos fizeram, usando a hashtag do Twitter #TakeTheOath. Em julho de 2020, o Twitter proibiu milhares de contas afiliadas ao QAnon e alterou seus algoritmos para reduzir a propagação dessa teoria da conspiração. Uma análise interna do Facebook informada em agosto de 2020 encontrou milhões de seguidores em milhares de grupos e páginas; o Facebook agiu para remover e restringir a atividade do QAnon, e em outubro disse que proibiria completamente essa teoria da conspiração de sua plataforma. Os seguidores também migraram para fóruns de mensagens dedicados, incluindo EndChan, onde se organizaram para travar uma guerra de informações na tentativa de influenciar as eleições de 2020.