Há algo que me preocupa profundamente nesse faroeste digital em que vivemos: a multiplicação de “realidades alternativas”, cada vez mais convincentes e enganosas, geradas por um casamento nefasto de inteligência artificial com notícias falsas.
Numa democracia é normal, saudável e desejável, que haja uma variedade de opiniões, vieses e ideologias permeando a sociedade, a respeito dos mais variados temas. Mas é essencial que todas essas opiniões sejam tecidas sobre uma mesma realidade, a partir de um mesmo conjunto de fatos e informações estruturantes. Por exemplo: o governo apresenta um projeto de lei, todos nós olhamos para o mesmo texto e temos a liberdade de opinar se ele é bom ou ruim. Um crime é investigado, todos os jurados olham para as mesmas evidências, escutam os mesmos depoimentos, e fazem um julgamento se aquela pessoa é culpada ou inocente. No mundo acadêmico, olhamos para um estudo científico, checamos a metodologia, avaliamos as evidências e emitimos um parecer, se os resultados apresentados são convincentes ou não. As opiniões variam, mas as informações sobre as quais elas são construídas permanecem iguais.
Simplificando um pouco mais ainda: podemos discutir eternamente se um filme é bom ou ruim, desde que todos nós tenhamos assistido ao mesmo filme. Mas, e se cada um de nós assistiu a um filme diferente, em salas diferentes, achando que eram a mesma coisa? Como chegar a uma conclusão? O consenso se torna praticamente impossível; a paranoia toma conta e o debate se torna um exercício de esquizofrenia, povoado por vacinas com chips, ameaças comunistas, fraudes eleitorais, curas milagrosas, ditaduras do bem e outras alucinações diversas.
A disseminação de notícias falsas via aplicativos de mensagens e redes sociais já é um problema gigantesco, empregada como “arma de desinformação em massa” para manipular a opinião pública na direção de interesses políticos, econômicos e ideológicos que não têm a civilidade nem a verdade dos fatos a seu favor. E isso tende a piorar muito nos próximos anos, à medida que softwares e aplicativos baseados em inteligência artificial tornem cada vez mais fácil clonar vozes, fabricar imagens e adulterar vídeos com um grau de realismo incomodamente surpreendente. Falsificações audiovisuais da realidade que antes eram quase impossíveis ou exigiam um grau hollywoodiano de expertise tecnológica para serem fabricadas muito em breve poderão ser feitas por qualquer pessoa mal intencionada com um celular no bolso.
Esvai-se rapidamente o tempo em que uma foto ou um vídeo eram prova definitiva de que alguma coisa realmente aconteceu. Já há vários aplicativos e programas disponíveis no mercado que permitem clonar vozes, colar o rosto de uma pessoa no corpo de outra ou criar imagens super-realistas de coisas que simplesmente não existem ou nunca aconteceram.
Um exemplo inocente, porém emblemático, é a foto do papa Francisco vestindo uma jaqueta puffer branca superestilosa, gerada pelo programa de inteligência artificial da empresa Midjourney, que cria imagens automaticamente com base em um simples comando de texto do usuário (tipo: “crie uma imagem do papa Francisco vestindo uma jaqueta puffer branca”). Detalhe: isso não é um programa secreto de inteligência artificial usado pela CIA para despistar nações inimigas ou sabotar organizações terroristas; é um serviço disponível para qualquer pessoa na internet. E se você pode botar o papa dentro de uma jaqueta puffer, é óbvio que também pode colocá-lo na cena de um crime, carregando uma mala de dinheiro ou em outra situação constrangedora qualquer. Ele ou outra pessoa qualquer – políticos, celebridades, aquele colega de trabalho que você não gosta.
No caso dos vídeos, há as chamadas deep fakes, ou “falsificações profundas”, cada vez mais sofisticadas e difíceis de detectar, que permitem colar o rosto de uma pessoa na cara de outra e fazer com que ela diga coisas que nunca disse ou faça coisas que nunca fez na vida real, com um grau assustador de realismo. Não estamos mais falando de memes idiotas, feitos com o intuito de satirizar, mas de falsificações sofisticadas, feitas com o intuito de enganar.
Não basta mais checar se as informações de uma mensagem de texto são verdadeiras ou se um vídeo foi editado fora de contexto; tem que checar se a voz é mesmo daquela pessoa, se a foto é mesmo daquela pessoa e se o vídeo não é uma falsificação completa do início ao fim. Quanto mais avançada e fácil de usar for a inteligência artificial, mas fácil será criar “realidades alternativas” e mais difícil será diferenciá-las da “realidade real”.
Claro que há maneiras igualmente sofisticadas de analisar tecnologicamente esses conteúdos para saber se eles são verdadeiros ou não. Claro que há agências de checagem que verificam se as “notícias” que circulam no WhatsApp são verdadeiras ou não. Claro que há maneiras de checar se um estudo científico é válido ou não. Mas essas soluções estão sempre intrinsecamente atrasadas, pois só são geradas a partir do momento em que um determinado conteúdo mentiroso já viralizou e já contaminou a mente das pessoas. É como apagar um incêndio depois que a casa já foi destruída.
Além do mais, quem tem tempo para isso? Ou pior: quem tem interesse ou disposição para checar tudo isso? Muitas das pessoas que recebem essas mentiras estão mais do que felizes em acreditar nelas, pois são mentiras customizadas, produzidas justamente para reforçar crenças e opiniões preestabelecidas. Não estão preocupadas em checá-las, e se forem confrontadas com a realidade, argumentarão que ela é a verdadeira mentira.
Tudo isso acontece num momento em que a sociedade está cada vez mais fragmentada, com as pessoas vivendo isoladas em bolhas digitais criadas pelos algoritmos das redes sociais, totalmente impermeáveis (e frequentemente intolerantes) ao contraditório. Quem pensa de um jeito só interage com pessoas que pensam da mesma forma e vê coisas que reforçam aquela linha inicial de pensamento, sejam elas verdadeiras ou não. É cada grupo na sua própria sala de cinema, assistindo ao seu próprio filme e achando que aquela é a única cópia disponível.
O resultado é que você senta para conversar com alguém que pensa diferente de você e nem parece que vivemos no mesmo planeta ou navegamos na mesma internet. Quem recebe a mentira raramente recebe o desmentido que vem na sequência. As informações que os seus algoritmos e as suas redes sociais entregam para você são completamente diferentes das informações que eu recebo dos meus algoritmos e das minhas redes sociais (físicas ou virtuais). O algoritmo não gosta de desagradar seus clientes, então só entrega para eles aquilo que eles já gostam de consumir, reforçando preconceitos, instigando o radicalismo de opiniões e a miopia intelectual.
Mas então, quem seriam os fiadores dessa “realidade real”; a fonte comum de fatos e informações verdadeiras, necessárias para diferenciar entre realidade e ficção – sem prejuízo ao seu direito de opinar sobre essa realidade? Ninguém é dono absoluto da verdade, como se costuma dizer, mas há muitas fontes de informações confiáveis que permanecem de pé nesse tumulto. Entre elas, instituições e órgãos oficiais de pesquisa. Se você quer informações confiáveis sobre vacinas, por exemplo, pode procurar a Fiocruz, o Instituto Butantan ou o Ministério da Saúde (com a ressalva de que este último depende dos dirigentes de plantão: durante a maior parte do governo Bolsonaro, o Ministério da Saúde foi uma fonte recorrente de negacionismo científico e desinformação sanitária, não o contrário). Se quiser informações demográficas sobre a população brasileira, pode procurar o IBGE. Se quiser saber a verdade sobre o desmatamento na Amazônia, pode consultar o Instituto Nacional de Pesquisas Espaciais (Inpe), e por aí vai.
Por isso é tão importante que essas fontes primárias de informação invistam fortemente em comunicação e produzam conteúdo de qualidade para abastecer o noticiário e as redes sociais. A imprensa, claro, tem um papel fundamental nesse ecossistema, atuando ao mesmo tempo como produtora, comunicadora e curadora de informações essenciais à sociedade. Não há dúvida de que cada uma dessas fontes também está sujeita aos seus próprios vieses, mas espera-se que por baixo desse ruído sempre exista uma base sólida de fatos e informações reais que cada cidadão possa utilizar para tomar suas próprias decisões e construir suas próprias opiniões. Há muitos canais de divulgação científica e de jornalismo profissional também produzindo conteúdo de excelente qualidade.
Por fim, temos outro problema: quantas pessoas você conhece (principalmente jovens) que ainda reservam um tempo do seu dia para ler ou assistir ao noticiário de forma ativa? A maioria só se informa por meio daquilo que alguém compartilha com elas no celular ou do que algum algoritmo coloca diante de seus olhos nas redes sociais. Um mundo onde as pessoas não buscam mais se informar por conta própria e vivem fechadas em bolhas digitais, alimentadas por robôs e notícias falsas, é um mundo perigoso, condenado à polarização e à discórdia. A realidade existe, mas não é dada.
________________
(As opiniões expressas pelos articulistas do Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)
