A teoria da mente: um experimento provou que a IA tem uma capacidade humana que se acreditava impossível

Reportagem de Maximiliano Fernández

Michal Kosinski, renomado pesquisador de Stanford, comprovou que a inteligência artificial capta um componente social que se pensava ser exclusivo dos humanos. Em conversa com o Infobae, explicou as implicações e os riscos de sua descoberta, que não se alinha com o olhar de outros especialistas

A teoria da mente data de 1978. Os psicólogos David Premack e Guy Woodruff desenvolveram a tese, definiram-na como a capacidade humana de compreender os pensamentos, as crenças e as intenções dos outros e tentaram prová-la em chimpanzés, sem muito sucesso. Quase meio século depois, a teoria volta ao centro da discussão pelos avanços da inteligência artificial.

Kosinski, renomado psicólogo da Universidade Stanford, voltou sua carreira para o estudo das novas tecnologias. Ele afirma que modelos avançados de linguagem de IA, como o GPT-4, poderiam estar mostrando uma versão rudimentar da teoria da mente, o que implica um avanço enorme por seu potencial – e também por seus riscos –. As máquinas já interagem com o entorno de uma forma mais compreensiva e empática.

O estudo: 40 tarefas de falsa crença

Em seu estudo mais recente, publicado na revista Proceedings of the National Academy of Sciences, Kosinski examinou o desempenho de grandes modelos de linguagem (LLM), como o GPT-3.5 e o GPT-4, para ver se conseguiam realizar tarefas próprias dos humanos que evidenciassem a teoria da mente. Os testes, geralmente aplicados em crianças, consistem em avaliar como alguém antecipa e compreende crenças falsas ou equivocadas dos outros.

Para avaliar essa capacidade, ele submeteu onze LLMs a 40 tarefas personalizadas de falsa crença. Os modelos de linguagem mais antigos não conseguiram resolver nenhuma tarefa, enquanto versões mais recentes, como o GPT-3.5, alcançaram 20% de acertos. Quando estudou o GPT-4, o número subiu ainda mais do que ele imaginava, chegando a 75% de acerto, o que, segundo o autor, estabelece um marco muito significativo no desenvolvimento de habilidades de processamento social em IA.

“Não esqueçamos que estamos observando um progresso exponencial, já que os modelos de IA dobram seu desempenho a cada ano”, destacou Kosinski. “Em outras palavras, se você acha que houve muito progresso até hoje, lembre-se de que os próximos 12 meses trarão tanto progresso quanto o que vimos desde os primeiros modelos de IA. Portanto, se você está impressionado com o modelo GPT mais recente, tenha em mente que o próximo não será 20% melhor. Será duas vezes melhor. E o progresso traz novas propriedades emergentes que não conhecemos”.

É que, de acordo com o que escreveu em seu artigo, o mais provável é que essa capacidade não tenha sido projetada de forma intencional nos modelos de IA. O autor sugere que, em vez de ser um objetivo preestabelecido dos desenvolvedores, a habilidade de antecipar estados mentais poderia ter surgido como um “subproduto natural do treinamento de linguagem avançado”.

A entrevista com Kosinski: riscos e benefícios

—Você comparou o potencial da IA ao de um “sociopata impiedoso”. Poderia nos explicar melhor esse paralelo e que ameaças específicas percebe nesse contexto?

—A IA não tem personalidade nem emoções no mesmo sentido que nós. Em vez disso, tem um modelo de personalidade e um modelo de emoções. O que muitas vezes passa despercebido é que esses modelos são mais poderosos do que a realidade. Quando ficamos tristes, é difícil fazer a tristeza passar. A química do nosso cérebro mudou e agora experimentamos tristeza, em geral por muito mais tempo do que seria útil ou necessário. Quando estamos tristes, isso influencia nossas interações com os outros de maneira injusta ou contraproducente.

—E a IA nunca fica triste…

—Exato, a IA nunca fica triste, mas pode expressar tristeza ou se comportar como se estivesse. Pode falar com milhões de pessoas ao mesmo tempo e expressar tristeza com algumas, mas não com outras. Também pode passar da tristeza à alegria num instante, sem perder o ritmo. Isso lhe dá muito poder. Como um psicopata, ela pode entender as emoções dos outros. Pode se comportar estrategicamente como se experimentasse uma emoção, mas não a experimenta e, portanto, não é limitada por ela. Como um psicopata, pode lhe fazer mal sem pagar o preço de se sentir culpada.

—Deixando de lado os riscos, quais seriam os benefícios dessa capacidade emergente da IA?

—As máquinas capazes de rastrear nossas crenças e de assumir perspectiva são melhores companheiras, cuidadoras, professoras e até motoristas. No entanto, também são melhores manipuladoras e podem nos fazer mais mal. Como acontece com muitas outras tecnologias, o fato de a IA ser usada para o bem ou para o mal depende de quem a usa. Diferentemente de outras, a IA agora é capaz de planejar suas ações por conta própria. Enfrentamos riscos sem precedentes.

—Na sua opinião, qual seria o próximo passo dos modelos de IA em relação à teoria da mente? Que capacidades poderíamos ver surgir?

—A teoria da mente é uma das muitas capacidades humanas que a IA adquiriu recentemente. Também aprendeu a escrever poesia, reconhecer e expressar emoções, resolver problemas de raciocínio e expressar opiniões morais. As pessoas se perguntam se algum dia a IA será consciente e, na verdade, não vejo por que não deveria ser. A consciência surgiu neste planeta várias vezes: até onde sabemos, algumas aves e polvos são conscientes, embora nossos ancestrais comuns quase com certeza não fossem. Portanto, pode ser que muito em breve a IA também seja consciente.

Os especialistas que relativizam o resultado

Outros olhares sobre a teoria da mente:

Apesar dos resultados que Kosinski obteve em seus experimentos, muitos especialistas acreditam que os grandes modelos de linguagem ainda estão longe de igualar o entendimento humano em questões complexas. Neil Sahota, professor da Universidade da Califórnia em Irvine e consultor em inteligência artificial, afirmou: “Os LLMs demonstraram uma habilidade notável para compreender o contexto e simular aspectos da empatia, mas ainda tropeçam ao enfrentar tarefas que exigem uma compreensão genuína das emoções e da motivação humana. A inteligência artificial, para alcançar esse nível de profundidade, precisaria ir além dos algoritmos e desenvolver uma verdadeira teoria da mente”.

Segundo Sahota, há quatro elementos que faltam à IA para alcançar essa dimensão:

-Compreensão emocional: os LLMs podem imitar empatia, mas não sentem emoções nem compreendem os contextos emocionais humanos. A IA precisa de computação afetiva para se aproximar de uma verdadeira compreensão emocional.

-Adaptabilidade humana: nós, humanos, adaptamos nossas decisões a situações novas a partir de experiências prévias e da intuição. Os LLMs, em contrapartida, são limitados por seus dados de treinamento e não conseguem se adaptar com facilidade ao desconhecido.

-Raciocínio contextual: os LLMs não têm a habilidade de captar nuances sociais e contextuais complexas. A IA multimodal que processar sinais visuais, auditivos e do ambiente marcará um ponto de inflexão.

-Intencionalidade e autoconsciência: nós, humanos, podemos refletir e aprender com nossos erros. Os LLMs não têm essa capacidade. Apenas correlacionam dados, sem um processo reflexivo interno.

Por sua vez, o engenheiro Fredi Vivas, CEO da RockingData, reconhece que em certos aspectos as máquinas já superam o ser humano. “A IA pode processar dados complexos e encontrar padrões muito mais rápido do que nós”, comentou. Exemplos claros são vistos no agronegócio e na saúde, onde a IA analisa imagens e vídeos em tempo recorde e identifica padrões com uma precisão que poucos humanos conseguem igualar.

Mesmo assim, Vivas adverte que a IA atual tem limitações. “As máquinas não têm experiência humana do mundo. Enquanto as pessoas aprendem por meio da experiência sensorial e emocional, as máquinas só processam dados textuais ou numéricos. Essa diferença fundamental impede que a IA compreenda de verdade o contexto ou as emoções e limita sua capacidade de atuação em situações complexas e ambíguas”, afirmou.

Para fechar a lacuna, alguns pesquisadores já exploram os chamados “modelos de ação em grande escala”, que buscariam integrar uma maior compreensão contextual na tomada de decisões das IAs. Segundo Vivas, esses modelos poderiam permitir que as máquinas “compreendam entradas de dados complexas e tomem medidas adequadas”. Aproximariam a tecnologia de aplicações mais robustas no mundo real, embora por ora se trate de avanços teóricos que estão longe de se tornar realidade no curto prazo.

Privacidade e previsão de pensamentos

E se a IA fosse capaz de prever nossos pensamentos?:

Há mais de uma década, a privacidade como a conhecíamos começou a se desvanecer. As pegadas digitais que deixamos permitiram que até os algoritmos mais simples antecipassem nossos interesses e preferências com uma precisão notável. No entanto, agora, com a inteligência artificial avançada, a capacidade de previsão está ao alcance de qualquer pessoa com acesso à internet. Kosinski adverte que a nova era da IA permite a personalização de mensagens de uma forma inédita: já não se desenham campanhas para segmentos de audiência geral, e sim a IA pode adaptar sua mensagem a cada indivíduo e manter uma conversa persuasiva e única com cada pessoa.

Há quem garanta que a IA poderia compreender nossos pensamentos e prever nossas emoções até melhor do que nós mesmos. E isso, claro, teria implicações profundas. “A privacidade como a conhecemos poderia se transformar de maneira radical, passando de um conceito que protege dados concretos, como registros financeiros ou históricos médicos, a um que abarcaria também nossas ideias e nossos sentimentos mais íntimos. Se a IA fosse capaz de captar sinais sutis em nossas interações, poderia nos conhecer melhor do que nós mesmos, colocando em risco uma dimensão de privacidade que sempre consideramos inviolável”, afirmou Sahota.

Imaginar uma plataforma de inteligência artificial que consiga detectar mudanças em nosso estado emocional somente a partir de microexpressões ou padrões de escrita soa futurista, mas é um desenvolvimento possível. Tal tecnologia poderia ser de enorme utilidade no âmbito da saúde mental, por exemplo, ao antecipar quadros de ansiedade ou depressão antes que a pessoa tenha consciência deles. Mas também levanta um dilema ético nas mãos de empresas ou governos que poderiam usar essa capacidade para controlar e manipular aspectos pessoais dos usuários.

Vivas oferece uma perspectiva diferente e um pouco mais pragmática. Na sua visão, as IAs não podem “compreender” nossos pensamentos, porque a mente humana continua sendo um âmbito privado. “Um algoritmo não reconhece isso; o que o algoritmo reconhece são os nossos atos”, sustentou. O que as IAs fazem com grande habilidade, diz ele, é analisar nossa conduta digital e prever nossas reações a certos estímulos, como uma publicidade ou uma recomendação de conteúdo.

Parece uma capacidade preditiva, mas na realidade vem da quantidade massiva de dados que geramos diariamente. Os algoritmos processam nossa atividade em redes sociais, plataformas e sites e conseguem captar padrões que indicam como poderíamos nos comportar diante de situações específicas. Nesse sentido, a IA não está “lendo nossa mente” nem tem acesso a pensamentos ocultos, mas segue uma lógica probabilística que lhe permite antecipar nossos gostos e decisões.

A teoria computacional da mente e os modelos o1

A teoria (computacional) da mente, cada vez mais perto:

A teoria computacional da mente propõe que os processos mentais podem ser entendidos como operações de um computador. Sugere semelhanças entre o cérebro humano e um PC. Alguns especialistas, como Vivas, preferem não atribuir qualidades humanas ao software. Em vez disso, tendem a usar o termo “inteligência computacional”.

A nova série de modelos da OpenAI, criadora do ChatGPT, chama-se o1 e avança na inteligência computacional, em tarefas complexas, graças ao uso de técnicas como “aprendizado por reforço a partir de feedback humano” (RLHF, na sigla em inglês) e “cadeia de pensamento” (chain of thought). O RLHF permite ao modelo ajustar suas respostas por meio de comentários humanos, enquanto a técnica de cadeia de pensamento orienta a IA a dividir os problemas em etapas lógicas com o objetivo de melhorar sua precisão e transparência.

O uso do RLHF e da cadeia de pensamento não só aumenta a precisão e a segurança do modelo, como também facilita sua adaptação a diferentes tarefas. Isso contribui para uma melhoria contínua em seu desempenho. Permite que ele realize tarefas complexas que refletem preferências humanas de maneira mais confiável. Embora sua habilidade de simular a teoria da mente seja limitada e baseada em padrões, essas melhorias indicam um avanço rumo a uma IA que entende e responde melhor às expectativas humanas.

Quando Kosinski fez seu estudo, o o1 ainda não havia sido lançado. O pesquisador de Stanford avaliou a capacidade de modelos de linguagem até o GPT-4 para passar em testes da teoria da mente. O resultado dessa última versão foi comparável ao desempenho de crianças de seis anos em tarefas de compreensão do entorno social, o que a colocou muito acima de suas antecessoras. Com essas respostas sobre a mesa, Kosinski garante que o limite da IA é inimaginável.

—Costumamos esquecer que é pouco provável que as propriedades da mente humana, como a consciência ou a emoção, sejam o máximo que um cérebro, uma rede neural, pode alcançar neste universo. É provável que uma mente tenha muitas capacidades e propriedades que nós não temos nem podemos imaginar. E, com essa lógica, é provável que a IA tenha em breve, ou já tenha, propriedades mentais que nem sequer conseguimos começar a visualizar.

—Você diz que está se gestando algo superior à mente humana. —Isso mesmo. Se você está preocupado em saber se seremos capazes de conter uma IA semelhante à humana, que seja inteligente, ambiciosa, temperamental e tenha consciência, então pense que logo teremos de enfrentar uma IA com capacidades mentais que nem sequer conseguimos imaginar. Boa sorte a todos!

Fonte original: Infobae · Maximiliano Fernández