O franciscano acredita que a humanidade está em crise devido à sua incapacidade de se diferenciar da máquina

O especialista em inteligência artificial Paolo Benanti Fundação Pablo

Enquanto estudava engenharia, surgiu sua vocação franciscana, cujo austero hábito ele ostenta nas reuniões às quais comparece: é membro da Pontifícia Academia para a Vida e presidente do Grupo de Trabalho de Inteligência Artificial dentro da agência correspondente criada pelo governo da Itália.

Acaba de ser publicada na Espanha a edição em espanhol de seu livro A Era Digital (Encuentro), no qual ele expõe as chaves para a mudança de época que estamos vivendo. Paolo Benanti (Roma, 1973) conversou conosco minutos antes do colóquio que manteve na Fundação Pablo VI com Jesús Avezuela (diretor da Fundação) e Carme Artigas, que foi secretária de Estado da Digitalização. Artigas e Benanti coincidem no órgão consultivo da ONU para a IA.

Segundo Benanti, a tecnologia “pode moldar e definir nossas preferências e liberdade de expressão”, de modo que a exigência ética que a IA impõe é inescapável. Ele afirma que “não existe tecnologia neutra”, pois toda tecnologia tem impacto; no caso atual, a criação de uma “realidade diferente”. Embora evite um tom fatalista, ele adverte que essa nova realidade substitui o direito à propriedade física por um mero uso de software e que pode haver uma concentração de poder. E acrescenta: “temo pelo fim da classe média”.

– Em seu livro, o senhor fala sobre a relevância da cultura pop e sua relação com a “era digital”. Poderia explicar?
– A cultura digital acontece dentro de uma cultura pop. Se não levarmos em conta que o digital ocorre dentro do universo cultural pop — que não é folclore, não é o tradicional, mas se manifesta em produtos que não são simplesmente bens de consumo, mas que, na ausência de identidade, ajudam a assumir uma identidade —, então não estamos percebendo toda a gama de valores simbólicos que constituem os objetos digitais. O telefone celular como tal, o smartphone, enquanto smartphone, não é apenas um objeto de consumo, mas um objeto de consumo capaz de comunicar uma identidade, de ter um poder simbólico, de alcançar uma série de significados que, de outra forma, estariam fora do nosso alcance.
Basta olhar o conteúdo dos nossos bolsos, (…) porque o telefone celular absorveu muitos desses objetos (…) Agora, tudo isso está contido neste paralelepípedo de aço e silício.

– Robert Redeker diz que nós somos os gadgets de nossos celulares. O senhor concorda?
– Talvez a análise mais interessante, desse ponto de vista, seja a de Adam Greenfield em seu livro Radical Technologies, que nos lembra que há duas tecnologias que estão praticamente reescrevendo os limites de nossa realidade: a Internet das Coisas e os smartphones. Basta olhar o conteúdo dos nossos bolsos, o que carregamos conosco. Nos últimos dez ou quinze anos, ele se reduziu drasticamente, porque o telefone celular absorveu muitos desses objetos: chaves, cartões e uma série de elementos do nosso dia a dia. Agora, tudo isso está dentro desse paralelepípedo de aço e silício que torna a realidade permeável e nos mantém sempre conectados e presentes.

– O senhor fala em seu livro sobre o pós-humano. O que é o pós-humano?
– Não é uma resposta fácil, porque o pós-humano é, na verdade, um conjunto de autores com muitas tendências diferentes, que se caracterizam por uma dificuldade fundamental em reconhecer o que é a natureza humana e o que significa ser humano. É um rótulo que nos ajuda a distinguir uma série de autores, não tanto uma escola, pois se parece mais com um grande recipiente, como foi o pós-estruturalismo. Assim, o pós-humano é uma fase em que, entre a máquina que funciona e o homem que existe, temos dificuldade em dizer quais deveriam ser as diferenças.

Hoje, não buscamos os deuses, mas buscamos nos tornar deuses, ou seja, mudar nossa condição humana para uma condição não humana.

– Devemos temer o pós-humano ou confiar em sua chegada, como garantem certos profetas?
– O verdadeiro problema diz respeito à ética, e buscar o bem não significa se deixar guiar pelo medo. Se quisermos ter uma perspectiva ética sobre as tecnologias, devemos nos perguntar o que significa a intenção de fazer o bem por meio dessas tecnologias, e não nos deixar guiar por um medo infundado.

– No mito de Prometeu, podemos encontrar uma referência ao impacto da tecnologia (o fogo) e à inteligência humana, pois o homem não é nem uma besta nem um deus. Qual a diferença entre o fogo de Prometeu e nós?
– Basicamente, que já não há deuses para roubar o fogo. Essa é a principal diferença: se Prometeu queria apenas roubar o fogo dos deuses, hoje nós não buscamos os deuses, mas, através do fogo, buscamos nos tornar deuses, ou seja, mudar nossa condição humana para uma condição não humana. Por isso, já não temos mitos, mas sim ficção científica. Nessa transição da crença no mito — pensar que há algo no passado que explica nosso presente — para a ficção científica — a utopia para a qual deveríamos caminhar —, desenrola-se todo o drama dos tempos modernos, ditados pela ficção científica, que assume um poder mitológico e uma ausência de fundamentos que nos ajude a enfrentar os desafios.

Frankenstein era um monstro; agora, será um ciborgue indistinguível, tornando a linha de demarcação entre homem e máquina substancialmente problemática.

– Frankenstein é o “moderno Prometeu”?
– Na realidade, não. Quando a tecnologia avançar ainda mais, encontraremos um novo modelo — o ciborgue — no qual será indistinguível o bem do mal. O ciborgue é como o homem, mas não é humano. O ciborgue altera a natureza humana tornando-a irreconhecível. Haverá super-heróis e também supervilões. O que antes era um monstro — e Frankenstein era um monstro porque tinha algo a mostrar aos outros — agora será um ciborgue, que esconde sua essência no interior, tornando-se indistinguível e tornando a linha de demarcação entre homem e máquina substancialmente problemática. Tudo isso tem traços do pós-humano. Mas também tem traços de uma humanidade em crise, que parece incapaz de dizer qual a diferença entre ela e a máquina — e onde reside a dignidade —, entre uma máquina altamente capacitada e um homem com suas fragilidades.

– O senhor mencionou uma humanidade em crise. Estamos cansados de ser humanos?
– É algo a se considerar, mas acredito que estamos, acima de tudo, em uma fase em que precisamos redefinir o que significa ser humano. E a necessidade dessa redefinição constitui o desafio intelectual de nossa época, da fé, mas também da vida cotidiana. Enfrentamos a necessidade de dizer a nós mesmos, novamente, o que significa ser humano.

Somos uma espécie rara, porque temos essa capacidade de nos adaptar e coexistir com a tecnologia.

– Somos hoje menos inteligentes do que ontem, porque delegamos nossa inteligência às máquinas?
– Parece uma ilusão, porque quantos de nós realmente têm o poder de usar essas máquinas? Na verdade, as pessoas que podem acessar inteligências artificiais são muito poucas. O que temos diante de nós é a ideia de uma humanidade que sempre se adapta com suas ferramentas. Se olharmos para a forma como os seres vivos se movem na Terra, o homem é o menos eficiente energeticamente. Um guepardo é muito mais eficiente do que nós, e um pássaro ainda mais. Mas se andamos de bicicleta, de repente nos tornamos o ser mais eficiente em deslocamento. Em parte, a tecnologia nos muda; pensemos nos óculos, marcapassos, dispositivos médicos. Somos uma espécie rara, pois temos a capacidade de nos adaptar e coexistir com a tecnologia.