“A Fábrica de Mentiras” — Deepfakes e o colapso da verificação

Inteligência Artificial e seus perigos

Laboratório do Futuro |

Dr. Ricardo Petrissans Aguilar.

Há uma frase que os checadores de fatos repetem como um mantra: “ver para crer”. Em 2026, essa frase morreu.

A UNESCO alertou em março: “Se compararmos os deepfakes produzidos há um ano com os de hoje, em 2026, os detalhes que nos permitiam detectá-los estão desaparecendo”. Sombras, imperfeições no piscar dos olhos, inconsistências na iluminação — os sinais que antes denunciavam um vídeo falso — foram eliminadas por modelos generativos que aprendem justamente com as tentativas de detecção.

O resultado é um ecossistema em que o falso e o verdadeiro são indistinguíveis. A UNESCO foi clara: a IA generativa “não foi feita” para a verdade. Seus modelos não têm compromisso com a veracidade; têm compromisso com a coerência estatística. Geram o que parece plausível, não o que é real. E, em um ambiente informativo saturado, o plausível é suficiente para manipular.

Os exemplos se multiplicam. Na Austrália, uma rede de mais de 200 páginas do Facebook vinculada a uma operação de influência estrangeira vem divulgando deepfakes de políticos australianos, incluindo o primeiro-ministro Anthony Albanese. Na Colômbia, pelo menos doze vídeos manipulados com IA circularam antes do segundo turno presidencial, atribuindo falsamente mensagens ao candidato Iván Cepeda. Na Hungria, um vídeo falso que parecia mostrar a execução de um soldado húngaro foi divulgado pelas contas oficiais do Fidesz, partido do primeiro-ministro Viktor Orbán, antes das eleições de abril.

A UNESCO reiterou que a desinformação, os discursos de ódio e a manipulação digital representam ameaças diretas ao debate democrático e ao exercício dos direitos fundamentais. “O debate democrático está sob uma pressão sem precedentes”, alertou a organização. Sem informação verificada, sem diálogo aberto e sem pluralidade de vozes, a democracia não consegue se sustentar.

As propostas existem: procedência criptográfica do conteúdo, marcas-d’água digitais, educação midiática. Desde setembro de 2025, a China exige que todo conteúdo gerado por IA seja identificado com marcas visíveis ou técnicas. A União Europeia proibirá os deepfakes sexuais não consentidos a partir de dezembro de 2026. Mas a distância entre a regulação e a realidade aumenta a cada dia. Enquanto isso, a confiança — a cola que mantém unidas as sociedades democráticas — se desgasta a cada vídeo falso.

Avaliação de risco