Judea Pearl

“Os robôs conversarão entre si, terão vontade própria, desejos… Não sei o que lhe surpreende com isso.”

Revolucionou a inteligência artificial e agora está pronto para revolucionar nossas vidas. Este engenheiro computacional e filósofo estabeleceu as bases matemáticas para que os robôs pensem e sintam como os seres humanos, e não apenas acumulem dados. Por suas descobertas, acaba de receber o prêmio BBVA Fronteiras do Conhecimento.

Seu currículo é impressionante. O Prêmio Turing – o Nobel da matemática –, doutorado em Engenharia, mestrado em Física, prêmios em Psicologia, Estatística e Filosofia e, agora, o Prêmio Fundação BBVA Fronteiras do Conhecimento em Tecnologias da Comunicação. E, como se não bastasse, é um pianista talentoso. No entanto, Judea Pearl prefere se definir como poeta. Afinal, ele faz metáforas com equações. Nos anos 80, desenvolveu uma linguagem matemática, as redes bayesianas, essenciais hoje para qualquer computador, mas agora, aos 87 anos, declara-se “apóstata” da inteligência artificial. Por quê? Justamente por essa pergunta. Não é um jogo de palavras. Pearl afirma que, enquanto não ensinarmos as máquinas a compreender as relações de causa e efeito, em suas variantes mais complexas, elas não pensarão como nós. E ele sabe como conseguir isso. Explica-nos de sua casa em Los Angeles. Lá, na Universidade da Califórnia, continua sendo professor. Tão lúcido quanto aquele jovem israelense, criado em uma pequena cidade bíblica, que chegou à ensolarada Califórnia há 60 anos.

XL. Seu objetivo é construir máquinas com um nível de inteligência humana, que pensem como nós.

Judea Pearl. Sim, porque até agora não criamos máquinas que “pensem”. Elas apenas simulam alguns aspectos do pensamento humano. “Entre humanos e máquinas, apenas o hardware é diferente; o software é o mesmo. Talvez haja uma diferença: o medo da morte. Mas não sei…”

XL. E, para fazer máquinas que pensem, o senhor afirma que elas precisam pensar em causas e efeitos, se perguntar ‘por quê’.

J.P. Sim, mas há níveis. É o que chamamos de “a escada da causalidade”. As máquinas atuais apenas criam associações entre o que foi observado antes e o que será observado no futuro. Isso permite que águias ou cobras cacem suas presas. Elas sabem onde o rato estará em cinco segundos.

XL. Mas isso não é suficiente…

J.P. Não. Existem dois níveis acima nessa escada que as máquinas ainda não alcançam. Um é prever ações que nunca foram realizadas antes nas mesmas condições.

XL. Mas há mais…

J.P. O próximo passo é a retrospecção. Por exemplo: tomei uma aspirina e minha dor de cabeça passou. Foi a aspirina que aliviou a dor ou foi a boa notícia que minha esposa me deu quando a tomei? Pensar nessa linha: um evento teria ocorrido se outro evento no passado não tivesse acontecido? Por enquanto, isso é algo que apenas os humanos fazem.

A escada da inteligência artificial. O salto definitivo das máquinas:

XL. Porque, até agora, esse tipo de pensamento não podia ser traduzido em fórmulas matemáticas, mas agora sim, graças ao senhor…

J.P. Sim, agora temos ferramentas matemáticas que nos permitem raciocinar nos três níveis. Falta apenas aplicá-las à inteligência artificial.

XL. Permita-me esclarecer o que o senhor disse; isso significa que o senhor traduz para equações a imaginação, a responsabilidade e até a culpa…

J.P. Sim, correto.

XL. Correto e impressionante, não? Os robôs poderão imaginar coisas que não existem. E o senhor mesmo afirma que essa capacidade foi essencial para o domínio do ser humano sobre as outras espécies. Agora as máquinas poderão fazer isso?

J.P. Sim, totalmente. Os humanos criaram esse “mercado de promessas”, convencer alguém a fazer algo em troca de uma promessa futura. E as máquinas poderão fazer isso.

“Criamos robôs pelo mesmo motivo que temos filhos. Para nos replicarmos. E os criamos na esperança de que adquiram nossos valores. E, na maioria das vezes, dá certo.”

XL. O senhor afirma com naturalidade que os robôs jogarão futebol e dirão coisas como “você deveria ter me passado a bola antes”.

J.P. Sim, claro, e o futebol será muito melhor. Os robôs se comunicarão como os humanos. Terão vontade própria, desejos… Me surpreende que isso o surpreenda [risos].

XL. O que me surpreende é a naturalidade com que o senhor fala dessas máquinas tão “humanas”…

J.P. Veja, estou envolvido com inteligência artificial há mais de 50 anos. Cresci com a certeza de que qualquer coisa que possamos fazer, as máquinas também poderão fazer. Não vejo nenhum impedimento, nenhum.

XL. Mas então, o que nos diferencia das máquinas?

J.P. Nós somos feitos de matéria orgânica, e as máquinas, de silício. O hardware é diferente, mas o software é o mesmo.

“A inteligência artificial tem o potencial de ser assustadora e o potencial de ser extremamente conveniente. Por enquanto, é apenas ‘nova’. Ainda é cedo para legislar.”

XL. Pouca diferença…

J.P. Talvez haja uma diferença: o medo da morte. Mas não tenho certeza de que isso faça uma grande diferença.

XL. E o amor?

J.P. As máquinas podem se apaixonar. Marvin Minsky tem um livro inteiro sobre as emoções das máquinas, The Emotion Machine, de anos atrás…

XL. Isso assusta um pouco…

J.P. Não é para assustar, é apenas algo novo. Tem o potencial de ser assustador e o potencial de ser extremamente conveniente. Por enquanto, é apenas “novo”.

XL. As máquinas poderão distinguir o bem do mal?

J.P. Sim, com a mesma confiabilidade que os seres humanos; talvez até mais. A analogia que gosto de usar é a de nossos filhos. Achamos que pensarão como nós, os criamos na esperança de que herdarão nossos valores. E, mesmo assim, existe o risco de que meu filho se torne um “Putin” qualquer. Mas todos passamos pelo processo de criar nossos filhos na esperança de que adquiram nossos valores. E geralmente funciona bem…

XL. Mas há alguém trabalhando nas bases éticas e morais dessa inteligência artificial?

J.P. Muita gente, sim. Mas acho que ainda é cedo para legislar.

XL. Eu diria que já é tarde…

J.P. Temos um novo tipo de máquina. Precisamos observá-la porque ainda não sabemos como vai evoluir. E não podemos legislar a partir do medo, do medo infundado.

XL. Mas o senhor mesmo conta que os criadores de uma inteligência artificial de grande sucesso, o AlphaGo da DeepMind, não sabem por que ela é tão eficaz, que eles mesmos não ‘controlam’ sua criação…

J.P. Correto. Mas veja: nós também não sabemos como a mente humana funciona. Tampouco sabemos como nossos filhos desenvolverão sua mente e, mesmo assim, confiamos neles. E sabe por quê? Porque funcionam como nós. E pensamos: provavelmente pensará como eu. E assim será com as máquinas.

XL. Mas os filhos acabam sendo diferentes… Embora o senhor defenda que o livre-arbítrio é “uma ilusão”. E nós aqui achando que tomamos nossas próprias decisões! Que decepção…

J.P. Para você é uma decepção, para mim é um grande alívio. Desde Aristóteles e Maimônides, os filósofos tentam reconciliar a ideia de Deus com o livre-arbítrio. Um Deus que prevê o futuro, que sabe o que é bom e o que é ruim e, mesmo assim, nos castiga por fazer coisas para as quais ele nos programou. Esse é um problema ético terrível que não conseguimos resolver.

XL. E o senhor vai resolver isso com inteligência artificial?

J.P. Claro, porque a primeira premissa é que não há livre-arbítrio. Temos a ilusão de que estamos no controle quando decidimos, mas não é assim. A decisão já foi tomada no cérebro antes. São nossos neurônios que dizem como devemos agir, que, por excitação ou nervosismo, me fazem mover a mão ou coçar o nariz. É determinista e não há uma força divina por trás disso.

“Levaremos implantes e eles irão interagir com os de outras pessoas. Dá medo, não dá? (Risos). Mas todos já temos implantes: chamam-se ‘linguagem’, ‘cultura’… nascemos com eles.”

XL. O que podemos fazer para que as matemáticas sejam ensinadas ou aprendidas melhor?

J.P. Isso mesmo me perguntou Bill Gates. E eu busquei na minha própria educação. Eu tive a sorte de ter excelentes professores, judeus alemães que fugiram do regime nazista e chegaram a Tel Aviv. Eles ensinavam ciência e matemática de maneira cronológica, não lógica. Quando nos falavam de Arquimedes, de como ele saltou da banheira e saiu gritando “Eureka, Eureka!”, nos envolvíamos. A base de nossa inteligência são as histórias, o relato, porque elas conectam as pessoas. As histórias fazem história. É mais fácil implantar ideias abstratas, como as matemáticas, por meio de histórias, de narrativas.

XL. E o que o senhor acha da filosofia, que agora está sendo relegada na educação?

J.P. Isso é terrível. A filosofia é muito importante. Ela nos conecta com pelo menos 80 gerações de pensadores. Cria uma linguagem comum, constrói a civilização.

XL. Mas não é útil para conseguir um emprego… ou isso dizem. E se dá prioridade às engenharias, que criam esses robôs que, precisamente, vão nos tirar o trabalho…

J.P. Sim, isso já está acontecendo. E vai acontecer mais. Isso tem dois aspectos: um, como nos sentiremos úteis quando não tivermos um trabalho. O outro, do que vamos viver, como conseguimos um salário. O segundo é uma questão de economia e gestão. Eu não tenho uma solução para isso. Mas ela existe. Ela virá.

XL. E quanto ao primeiro?

J.P. Podemos resolver isso. Eu tenho 87 anos, sou inútil e encontro alegria a cada hora do dia.

XL. [Risos]. O senhor não é nada inútil, e sabe disso.

J.P. Veja, quase tudo é ilusório. Vivo com a ilusão da resposta do meu entorno, dos meus filhos, dos meus alunos. Se dou uma aula, me sinto feliz porque tenho a ilusão de que alguém se beneficia com isso. É possível criar ilusões. A gente as cria para si mesmo.

“A base de nossa inteligência são as histórias, o relato, porque conectam as pessoas. As histórias fazem história. É mais fácil implantar ideias abstratas, como as matemáticas, por meio de narrativas.”

XL. Falávamos antes sobre o bem e o mal. O senhor sofreu o mal de uma forma inimaginável, quando assassinaram seu filho (veja o quadro ao lado); agora há uma guerra… As máquinas podem mudar isso, nos tornar melhores?

J.P. Eu não tenho a resposta. Mas talvez, quando implementarmos nas máquinas a empatia ou o arrependimento, entenderemos como essas coisas se formam em nós e poderemos ser um pouco melhores.

XL. E o que o senhor pensa sobre incorporar a tecnologia ao nosso corpo? Seremos transumanos…

J.P. Não vejo nenhum impedimento nisso. Vamos usar implantes e eles irão interagir com os implantes de outras pessoas ou outros agentes.

XL. O senhor gostaria de ter um implante no cérebro?

J.P. Dá medo, não dá? [Risos]. Eu já tenho um implante. Todos nós temos: chamam-se ‘linguagem’, ‘cultura’… nascemos com eles. Mas, como já estamos acostumados com eles, não nos surpreendem.

XL. Mas por que o senhor insiste em fazer máquinas mais inteligentes que nós?

J.P. Porque estamos tentando nos replicar e amplificar a nós mesmos.

XL. Para quê?

J.P. Pela mesma razão de termos filhos.

XL. Eu ‘comprei’ a sua analogia, mas antes criávamos máquinas para nos ajudar; agora elas nos substituem.

J.P. Não, não. Criamos máquinas para nos ajudar. Elas vão nos substituir, sim. Mas as criamos para nos ajudar [risos]. Embora elas nos superem.

XL. Existe uma fórmula matemática para a justiça?

J.P. Tem que haver uma. Assim não haveria ambiguidade e nenhum ditador poderia nos dizer o que é justo. Para combater um Putin, seriam necessárias mais matemáticas.

“Eu não faço previsões, mas o futuro vai ser totalmente diferente, uma revolução. Sou otimista, embora não saiba aonde isso nos levará.”

XL. O senhor tem um monte de livros antigos.

J.P. Eu os coleciono. Tenho uma primeira edição de Galileo [ele pega o livro].

XL. O senhor viaja no tempo. Vai desses livros para a inteligência artificial. Não posso deixar de perguntar, embora já tenha me dito para não fazer isso, como o senhor vê o mundo em 10 ou 20 anos…

J.P. [Risos]. Eu não faço previsões. Mas vai ser totalmente diferente, uma revolução. Não sei aonde isso nos levará, mas sou otimista. Embora seja triste que meus netos não desfrutem, por exemplo, de ler meus livros antigos. O fosso cultural entre gerações vai aumentar. E isso me preocupa. Porque eles vão perder toda a sabedoria que transmitimos de pais para filhos.

XL. E o senhor diz isso, que está criando robôs pensantes!

J.P. Sim, mas eu crio máquinas que pensam para entender como pensamos.

XL. Qual é o conselho para os jovens ainda ‘resgatáveis’?

J.P. Leiam história.

XL. Ler? O senhor é muito otimista…

J.P. Tá, então que vejam documentários. Sobre as civilizações, a evolução, como chegamos a ser o que somos. Sejam curiosos! Esse é o meu conselho: tentem entender as coisas por si mesmos.

Inteligência Artificial – Entrevista com Judea Pearl