A Verdade Está Morta? A Inteligência Artificial Vai Destruir a Credibilidade Online?

Deepfakes já não surpreendem mais ninguém. E ainda bem que aprendemos a distingui-los da realidade. Talvez algum mecanismo de evolução cognitiva, ainda não descoberto ou até mesmo novo, tenha entrado em jogo aqui.

Mas a IA continua a treinar com a persistência de um esgrimista olímpico, e seus golpes se tornam mais dolorosos e precisos. Alguns tipos de mídia gerada por IA já são indistinguíveis a olho nu (ou ouvido). Isso é especialmente verdadeiro para textos.

O que nos espera em um futuro próximo com esse ritmo?

Marshall McLuhan

Simulacro à direita, simulacro à esquerda

O nome de Marshall McLuhan é familiar para muitos, e ele foi provavelmente o último grande profeta. Só que ele não profetizava na rua, de sandálias e túnica de pele de cabra, mas em seu escritório, desenvolvendo a elegante teoria da "Aldeia Global".

Em resumo, quando as pessoas aprenderem a transmitir informações instantaneamente, o mundo se tornará uma enorme fazenda coletiva de informações. Independentemente do continente, fuso horário ou etnia, estaremos sempre à vista uns dos outros e poderemos cochichar nos cantos, espalhando ideias, notícias e boatos mais rápido do que a velocidade do pensamento.

Um simulacro também é uma imagem de um objeto inexistente. Por exemplo, o chinês Bai Ze, uma vaca-demônio chinesa onisciente.

Segundo McLuhan, o meio – ou seja, o ambiente de movimento da informação – desempenha um papel crucial. A qualidade e o efeito dos dados transmitidos dependem dele. E nosso principal encanamento de informações, pelo qual pagamos, é o ambiente perfeito para cultivar "desinformação".

Eis o porquê:

Fim da era das autoridades

Primeiro, já ocorreu uma reavaliação nietzschiana de todos os valores, e os verificadores de autoridade na forma de várias agências de notícias foram derrubados de seus pedestais. Check.

Emoções vs. Credibilidade

É fácil jogar com as emoções, especialmente se algum conteúdo explosivo for adicionado à partitura. Check novamente.

Recontextualização

Quase qualquer imagem ou vídeo pode ser adaptado a um contexto completamente diferente e manipular com sucesso a consciência pública. Isso só funciona a curto prazo, mas ainda pode causar muitos danos até que a verdade seja revelada. Definitivamente, check.

Com o triunfo da Internet, as condições já não eram ótimas, e agora há um renascimento da inteligência artificial – um verdadeiro Big Bang do qual o Universo Simulacro finalmente saltou. McLuhan, aliás, era um homem religioso e atribuiu ao reino da informação simulada o epíteto apocalíptico de "manifestação aberta do Anticristo". Que novas facetas de engano a IA abriu para nós?

Um exemplo marcante de recontextualização são os vídeos de sequestros de crianças que começaram a se espalhar massivamente em grupos indianos do WhatsApp por volta de 2018, causando histeria em todo o subcontinente. Na verdade, este trecho retirado do contexto é retirado de um anúncio social vietnamita que mostra como é fácil roubar uma criança deixada sem supervisão.

O "Dividendo do Mentiroso"

Assim que a GenAI caiu nas mãos do público, a sociologia foi instantaneamente enriquecida com dois fenômenos interessantes: o "dividendo do mentiroso" e a "apatia à verdade".

Dividendo ou Argumento do Mentiroso

O primeiro cenário significa que, na verdade, materiais comprometedores podem perder sua força outrora assustadora. Se qualquer pessoa pode literalmente criar do nada um arquivo com filmagens hiper-realistas de câmera escondida, então as evidências de vídeo perdem automaticamente sua força, assim como muitos outros tipos de evidências e provas. Basta dizer: "Eu não sou eu, a katana não é minha."

Apatia à Verdade

E esse fenômeno significa que as pessoas acabarão aceitando uma simples realidade:

não acredite em seus olhos.

Como tudo pode ser falsificado, por que prestar atenção a mais um hype irritante? Como resultado, a sociedade desenvolve gradualmente cegueira seletiva e ignora até mesmo eventos flagrantes, porque não tem energia mental para descobrir onde está o Falsum e onde está a Veritas e o que fazer com tudo isso.

A propósito, o gênero "deepfake" não apareceu no Reddit em 2017. O primogênito inesperado da mídia falsa viu a luz em 1997 – era a tecnologia da startup Video Rewrite, que fez Kennedy dizer a frase "Eu não conheço Forrest Gump". É verdade que esse truque não foi construído com aprendizado de máquina, mas com um embaralhamento manual do storyboard da boca do presidente, que foi ajustado aos fonemas falados para uma réplica pré-gravada. Sabemos que Kennedy e Forrest se conhecem.

Quem é o culpado e o que fazer?

O acusado aqui é apenas um – o progresso técnico. É verdade que, como o Janus romano, ele tem duas faces e, junto com os problemas, traz alguns antídotos para eles. Realmente, uma divindade das portas que aponta a saída até mesmo de uma situação desesperadora.

Portanto, similia similibus curantur – semelhante cura semelhante. E máquinas inteligentes devem ajudar a humanidade a superar a avalanche de falsificações.

Suponha que os invasores tenham criado um vídeo em que Elon Musk anuncia que está desistindo de tudo e se mudando para a vila de Sosva, nos Urais Centrais, para residência permanente, e em vez dele, um inteligente cão da pradaria Gennady com um Neuralink implantado em sua cabeça estará administrando os negócios. Hipoteticamente, esse vídeo poderia causar pânico na bolsa de valores e desencadear uma crise mundial pior do que a de agosto de 1998. O que fazer?

Atuação

Por exemplo, temos uma maneira simples, mas genial, de ler o trabalho do sistema cardiovascular (heart rate estimation) por vídeo.

Este método permite determinar se há uma pessoa viva na frente de nós ou um simulacro descarado: o método registra mudanças sutis na cor da pele, causadas pela saturação de oxigênio durante a respiração, imperceptíveis ao olho humano. Se essas tonalidades estiverem presentes e coincidirem ritmicamente com os padrões de "inspiração-expiração", então, com uma probabilidade de 99,1%, uma pessoa viva está transmitindo para nós.

Quanto à voz, existe uma abordagem interessante para detectar micro-oscilações das cordas vocais (geralmente é correto dizer "pregas vocais"), que são inerentes a todas as pessoas vivas em geral.

O detector pode rastrear vibrações naturais da voz na faixa de 8–12 Hz, que são então analisadas usando o efeito Doppler para rastrear mudanças de frequência no áudio, imitando o movimento físico da fonte de som. A vibração da membrana timpânica também é usada para decompor o sinal em frequências componentes. Sua principal tarefa é capturar oscilações de baixa frequência no espectrograma da voz. Como a rede neural não possui um aparelho vocal físico – pregas, bem como ressonadores na forma de uma máscara facial ou caixa torácica – esses sinais sutis de um organismo vivo estão ausentes ou o mais suavizados possível.

Mas com os textos agora é muito mais difícil. A opinião dos especialistas é que, mais cedo ou mais tarde, os detectores de IA simplesmente deixarão de lidar com a escrita neural – os astrólogos preveem uma onda de doutorados e candidatos falsificados. Mas falaremos sobre isso em outro material.

E a luta continua...

Por enquanto, o quadro é o seguinte: a IA ficará mais inteligente e maior, produzindo resultados cada vez mais sofisticados que um dia se tornarão indistinguíveis da realidade. É bem possível que ela aprenda a contornar os métodos existentes de detecção de sinais de vida (liveness detection).

Mas isso não significa que tudo esteja irremediavelmente perdido. Primeiro, o jogo de gato e rato entre os atacantes de deepfake e os biometricistas defensores continuará. E se cada defesa pode ser quebrada (olá, Denuvo), então o inverso também é verdadeiro: cada ataque à nossa percepção cognitiva da realidade pode ser repelido de uma forma ou de outra.

E a questão aqui nem são alguns know-how sofisticados que são coletados de fórmulas alucinantes nos principais laboratórios do mundo. Historicamente, o homem tem sido capaz de se adaptar a desafios e perigos – uma vez ajudou nossos ancestrais a pegar dois pedaços de pele, uma agulha de osso e descobrir o "arco" paleolítico (o arco de caça apareceu um pouco mais tarde).

E, portanto, de uma forma ou de outra, nos adaptaremos ao novo elemento hostil, que os deepfakes são. E seremos capazes de controlá-lo. Talvez.