Mikko Hyppönen: “A inteligência artificial não vai ficar com o seu trabalho, mas alguém que a use melhor do que você, sim”

Um dos hackers mais conhecidos do mundo falou sobre a segurança dos sistemas hoje, o “malware assistido por IA” e os deepfakes.

“A melhor solução para combater os problemas da inteligência artificial é a inteligência artificial”, garante.

“A internet é a melhor e a pior coisa que nos aconteceu na história”. Com essa frase começa seu livro de 2022 Mikko Hyppönen, hacker, especialista em segurança e uma das sumidades do mundo do hacking, que tem uma tese própria: “Se é smart, é vulnerável”. Telefone, computador, TV e até a máquina de lavar são hoje um vetor de ataque. E toda a sua vida foi dedicada a demonstrar isso, mas sobretudo a pensar em como construir os anticorpos digitais.

Nascido na Finlândia em 1969 (“tenho a idade da internet”, costuma dizer, porque a ARPANET foi criada nesse ano), ficou conhecido no mundo da cibersegurança por ter feito contribuições significativas para melhorar os sistemas. Desde a década de 1990, ocupou funções de conselheiro no Governo dos Estados Unidos e é uma voz autorizada na Europa e na Ásia em questões de hacking, cibercrime e cibersegurança. E chegou a fazer um minidocumentário em que contou como foi sua jornada para encontrar, no Paquistão, os criadores do primeiro vírus de computador da história: o Brain, que se espalhou pelo mundo em disquetes em 1986.

Em agosto deste ano, esteve na Black Hat USA, uma das conferências de cibersegurança e hacking mais importantes do mundo, em Las Vegas. Num corredor do Mandalay Bay Convention Center, sentado, esperando para autografar livros, Hyppönen tem o entusiasmo de um adolescente que começa a desmontar computadores para ver como funcionam: distribui “punch cards” autografados de brinde. “Funcionam bem como marcadores de página”, diz, sobre esses cartões perfurados que se usavam na pré-história da programação.

Hyppönen participou, no início de agosto, de uma conversa no Mob Museum de Las Vegas, um museu que percorre a história das famílias da máfia nos Estados Unidos — e que deveria ser uma visita obrigatória para qualquer pessoa que esteja perto da velha Vegas, aliás, na região da Fremont Street. Uma desculpa perfeita para falar dos grupos cibercriminosos do século XXI que, ao contrário das clássicas famílias que povoaram Las Vegas, Nova York e outras cidades icônicas dos EUA, cometem seus crimes on-line. Ali ele conversou com Alissa Knight, uma hacker “recuperada” que costumava roubar ativos de bancos e hoje se dedica a proteger sistemas e a assessorar empresas.

Uma revolução que alcança o trabalho de escritório

─ O que você diria que é o mais notável desta era da IA que estamos vivendo? O que a diferencia de outras revoluções tecnológicas?

Esta é a primeira revolução tecnológica em que a tecnologia não está destruindo o que se conhece como postos de “colarinho azul”, isto é, postos de trabalho da tradicional classe operária, como ocorreu com a Revolução Industrial: a IA não elimina a necessidade de termos encanadores ou pedreiros. Precisamos de encanadores, pintores, carpinteiros! A IA não pode fazer isso. Mas programadores, advogados, contadores? Esses sim estão começando a perder empregos, e nunca tínhamos visto isto: que os trabalhos de “colarinho branco”, os dos funcionários de escritório, estejam em perigo. E, para piorar, a indústria criativa, como as artes, também está sendo afetada.

─ Em que sentido?

─Em abril eu disse que, ao longo deste ano, teríamos um Top 40 de hits escritos por IA generativa: compostos, arranjados e cantados por uma IA. Há algumas semanas, nas paradas da Alemanha, o número 27 foi uma música feita inteiramente com IA. Ou seja, está acontecendo mais rápido do que eu pensava.

O que muda para as novas gerações

─ Você cresceu numa internet em que a pesquisa e o compartilhamento de descobertas eram a constante. A IA, de certa forma, faz o trabalho por nós (resume textos, extrai ideias principais). Como isso afeta as novas gerações?

─Não acho que os torne mais burros, acho que os tornará mais eficientes. Dará a eles ferramentas para auxiliá-los em suas pesquisas. Quando eu tinha 20 anos, se você queria usar um computador, tinha que ser programador. Não havia outra forma de usar um computador. Então era muito difícil para mim ver como todo mundo acabaria usando um computador, porque claramente nem todos podem ser programadores. Hoje todo mundo usa um computador e tem um no bolso, e não são programadores. Simplesmente mudamos a forma como usamos esses dispositivos, como o telefone.

─ E como você imagina que a IA vai impactar isso?

─Vai fazer exatamente a mesma coisa: hoje você não precisa ser um especialista em pesquisa nem entender como se constrói o mais básico de uma ciência, agora você pode usar um assistente. A inteligência artificial não vai ficar com o seu trabalho, mas alguém que a use melhor do que você, sim.

─ Assim como a internet mudou nossa vida cotidiana, como você imagina a inteligência artificial generativa na vida cotidiana, no futuro?

─Vamos usar uma espécie de Siri com esteroides [o assistente da Apple]. Imagino um serviço acessível de forma permanente, talvez vamos ter algo parecido com um fone no ouvido que nos permitirá pedir ajuda a qualquer momento, ou algo do tipo. Essas ferramentas são realmente muito úteis e já estamos nos aproximando desse nível de capacidades.

O que foi inventado não se desinventa

─ Em seu livro há uma ideia categórica a respeito da tecnologia: uma vez que há um avanço tecnológico, não se pode voltar atrás. Hoje, a inteligência artificial está em toda parte: como ela está mudando o panorama das ameaças?

─ “Você não pode desinventar algo”, costumo dizer. Toda nova criação, como a internet, tem seus benefícios e seus perigos. A informação, se precisa viajar de um ponto A a um ponto B, não importa quantos obstáculos encontre, vai achar um jeito de fazê-lo. Por isso ainda não está claro se a inteligência artificial vai nos trazer mais problemas do que vantagens: é uma invenção que avança, e muito rápido. Mas com certeza vamos precisar de IA defensiva, se quisermos ter alguma chance de combater o cibercrime.

─ Há um entusiasmo desmedido em torno da IA?

─É interessante ver como há um ciclo de entusiasmo [hype] em torno da inteligência artificial, para o bem e para o mal. Se você olhar, a avaliação das empresas ligadas à IA inflou muitíssimo durante esse tempo, quase o mesmo que aconteceu com o boom das empresas ponto-com há 20 anos. Mas também se começa a ver como ela serve para coisas ruins. Por exemplo, com os deepfakes, já vimos usos muito realistas para atingir políticos ou para aplicar golpes em consumidores.

Deepfakes: ataques possíveis, casos confirmados quase nulos

─ Ou seja, o risco da IA tem fundamento.

─Vejamos, há toneladas de relatórios sobre ataques que ainda não estão acontecendo. Vou te contar. Há um tipo de ataque em que um cibercriminoso “rouba” o rosto de um CEO ou de um CFO e se aproveita disso para aplicar golpes no setor financeiro da empresa. É possível fazer isso? Claro que sim, os deepfakes permitem fazer isso. E, no entanto, não vimos evidências de que isso esteja realmente acontecendo.

─ Mas há relatórios de empresas de cibersegurança sobre isso.

─Sim, há relatórios, mas não são muito confiáveis. O mais próximo que vimos, que podemos confirmar, são casos de vozes de executivos clonadas na caixa postal, e mesmo essas não são em tempo real. Temos a tecnologia para fazer vozes falsas em tempo real, até vídeos, mas o que quero dizer é que os atacantes não estão usando isso em grande escala. Mesmo com os casos de golpes por mensagem de voz, tenho apenas dois exemplos disso: não duzentos, não dois mil, dois.

─ Então não são ameaças do mundo real?

─O problema é que, ao entusiasmo em torno da tecnologia, é preciso somar os exageros sobre esses problemas. O ponto é que todo esse panorama de ameaças está sendo apresentado como algo maior do que realmente é, pelo menos na atualidade. Agora: isso sim vai se tornar, com certeza, um problema. Os benefícios para os atacantes são enormes e a barreira para usá-los está cada vez mais baixa. Mas o problema não é tão grande quanto se poderia acreditar, com base em relatórios e nas empresas de segurança que estão ali embaixo (aponta para os estandes das marcas da Black Hat). Essas empresas estão dizendo que vai ser um problema, e têm razão. Mas não é agora.

Combater a IA com mais IA

─ E como você acha que serão combatidos quando de fato forem um problema?

─Temos tempo para reagir, para construir soluções que contrabalancem esses problemas, e a melhor solução para combater os problemas da inteligência artificial é a inteligência artificial. As defesas por inteligência artificial.

─ Você falou do WormGPT, uma espécie de ChatGPT para escrever malware, da engenharia social assistida por IA e de outros tipos de ameaças. Qual você acha que será a maior ameaça e a maior vantagem que a cibersegurança poderá tirar da IA? ─A maior ameaça concreta vai ser o malware assistido por IA. Os ataques de malware em que o vírus pode sofrer uma metamorfose para evitar ser detectado, com técnicas generativas, e em que toda uma campanha de malware pode ser orquestrada e executada por uma automação, isso sim é uma ameaça real. Vai mudar o modo como ele funciona, se comunica, se dissemina, envia informação. E tudo isso vai ser um exemplo perfeito de um tipo de malware que só poderemos combater com, precisamente, uma IA defensiva: para combater esses problemas que a IA vai gerar, vamos precisar, precisamente, da IA.

Fontes

Escrito por Juan Brodersen, de Tecnologia do Diário Clarín de Buenos Aires, República Argentina.

Fonte original: Diario Clarín · Juan Brodersen