Inteligência artificial generativa: repensando o conceito das “bolhas de filtro” organizadas por algoritmos

Por João Furio Novaes, pesquisador da Cátedra Oscar Sala do Instituto de Estudos Avançados da USP

 Publicado: 30/07/2024
João Furio Novaes – Foto: Reprodução/IEA-USP

 

Propostas pela primeira vez no ano de 2011, expressões como bolhas de filtro, bolhas digitais, filtros digitais e bolhas rapidamente alastraram-se e conquistaram o status de algo similar a um dado factual da realidade em rede. Estes conceitos – doravante simplesmente bolhas – tendo sido já amplamente assimilados no vocabulário de jornalistas e pesquisadores que se debruçam sobre o tema da polarização on-line, provaram-se extremamente bem-sucedidos em unificar vozes dissonantes na produção de uma rara e genérica interpretação compartilhada: os algoritmos de personalização, uma vez adotados, atuariam como um mecanismo de filtragem das informações nas redes, isolando o sujeito on-line de qualquer contato com o contraditório e assim promovendo, como uma consequência sua, um regime de dispersão dos conteúdos que seria essencialmente interditado, estéril, circular e fragmentário.

Neste texto, convidamos o leitor a refletir sobre a pressuposta obviedade da noção manifestada pelo conceito de bolhas, introduzindo a crítica já estabelecida quanto à pertinência de sua aplicabilidade em consonância com uma interpretação original nossa, a qual propomos a partir de uma comparação entre (1) o real funcionamento dos algoritmos de personalização e (2) os atuais modelos das ditas inteligências artificiais generativas, tão centrais para o corrente estado do conteúdo que tem circulado em rede.

Localizando as suas origens, a noção de que o atual ambiente online promoveria o surgimento destas bolhas informativas foi popularizada pela primeira vez pelo autor estadunidense Eli Pariser, no ano de 2011, em seu livro The Filter Bubble: what the internet is hiding from you – um sucesso de vendas, à época mesmo divulgado pelo The New York Times Best Seller List. Sua capacidade de estabelecer-se como uma obra viabilizadora de quaisquer conceitos, no entanto, desde os seus inícios já suscitava dúvidas e questionamentos: Evgeny Morozov, por exemplo, ainda em 2011 escrevera uma crítica sobre o livro citado onde destacava como a retórica de Pariser recorria frequentemente a uma argumentação anedótica e a genéricos conceitos da psicologia (tais como viés de confirmação) para justificar as suas propostas.

Quase 15 anos mais tarde, no entanto, ainda hoje o conceito de bolhas mobiliza e convence como uma explicação persuasiva. Na imprensa brasileira, é frequente que se recorra a ele como um elemento inconteste (e mesmo óbvio) do nosso atual contexto midiático; algo que bem podemos notar em manchetes como: Folha lança campanha para incentivar furo de bolhas e diversidade de ideias, na Folha de S. Paulo; Projeto O Brasil Fala surge como resposta a bolhas digitais e algoritmos de redes sociais, no Estadão, e Entre Bolhas, em O Globo, onde o colunista Gustavo Poli chega mesmo ao ponto de abrir o seu texto dizendo: “Navegamos entre bolhas isoladas e impermeáveis que raramente se comunicam.”

Tal preservação de seu uso, no entanto, ocorre a despeito de uma vasta produção internacional que vem se acumulando ao longo dos últimos anos como uma crítica quanto aos usos que fazemos destes termos e da razoabilidade de sua manutenção como um conceito utilizável. Dos exemplos mais ilustres que poderíamos citar, a obra Are Filter Bubbles Real?, de Axel Bruns, certamente se destaca. Nela, o autor focaliza a ideia de que, ao contrário do que fora defendido por Pariser, a internet e as redes – comparadas às mídias que as precederam – mais exporiam os indivíduos ao diferente do que privariam o seu acesso a ele, chegando mesmo ao ponto de classificar a proposta das bolhas como um mito e como uma miragem digital.

Bruns fundamenta suas alegações em uma série de pesquisas citadas ou lideradas por ele, nas quais aponta a virtual inexistência de um conteúdo barrado como o principal fator para a crítica que erige. Para ele, o fenômeno do radicalismo contemporâneo não adviria necessariamente da falta de acesso ao diferente e ao dissenso, mas sim, de uma nova prática de organização em rede, em que um constante acesso aos pares permitiria a criação de um novo tipo de coesão em grupo – responsável, finalmente, por criar uma teia de argumentos sempre capazes de responder ao contraditório prontamente e em um sentido defensivo.

A radicalização, portanto, observada por Pariser como uma consequência da atuação destes filtros algorítmicos não se sustentaria: na prática, não se trataria de uma interrupção (ou de um decréscimo) no ritmo de acesso ao diferente e ao contraditório, mas sim da ineficácia da exposição a eles, ou, em outras palavras, de um fenômeno marcado pelo enfraquecimento das possibilidades de convencimento. Valeriani e Vaccari concluem algo semelhante. Ao comentarem sobre a incidência do que qualificaram como exposições acidentais a conteúdos relacionados a política nas redes, citam uma grande quantidade de relatos de usuários pouco afeitos ao tema que se deparavam com propaganda partidária em seus feeds e denunciavam este fato como uma “poluição” destes espaços – um indicativo da inexistência de tal interrupção no fluxo das informações dissonantes; mas estas são abordagens de valor quantitativo e, porquanto digam algo sobre o fenômeno que comentamos, não nos satisfazem na explicação que aqui buscamos defender.

Na prática, quando colocamos a ideia de uma falácia das bolhas, nos referimos mesmo a uma fragilidade que atribuímos ao argumento que Pariser estrutura quando nos propõe os termos de filtros e bolhas. Não consideramos ser possível que se presuma um inexistente acesso ao todo do conteúdo online como a verdade do estado de coisas anterior à adoção da personalização como um processo de disposição prioritário do conteúdo em rede. Tais algoritmos, portanto, não atuariam no sentido de filtrar (reter/barrar) um determinado conteúdo indesejado, mas sim na própria seleção do conteúdo que chega – prática em muitas ordens mais ativa e participativa do que a estática imagem de uma filtragem é capaz de suscitar. Bruns, por sua vez, também faz este comentário.

Ao reduzir a atividade algorítmica a um processo de filtragem, Pariser trabalha pela construção da iconicidade figurativa do seu conceito de bolhas. Neste caso, o objeto bolha não é assimilado a partir de seu valor como algo inflacionário, instável e volátil, mas sim a partir de sua imagem como algo hermético e constituidor de uma membrana. Todo este trabalho, de reformulação pedagógica da atividade desempenhada pelos algoritmos na metáfora de uma filtragem, apenas confunde e atrasa o real esforço que se pode fazer para medir o impacto destes dispositivos sobre o debate que, de fato, afetam.

Atuando para dar forma ao próprio conteúdo da interface com que se tem contato quando se entra em uma rede social de qualquer tipo, tais algoritmos não podem ser resumidos à noção de filtro; eles seriam os próprios compositores daquela imagem que ali se enxerga. Tomada como um texto (ou como um todo dotado de sentido), aquele contínuo de publicações, que se empilham temporariamente em nossos feeds personalizados, são uma peça – sempre única – de resultados variados, a qual construímos por meio da própria dinâmica de nossa interação com os algoritmos que estipulam a lógica de sua montagem. Estes dispositivos, inteligentes à sua maneira, se atuam de modo similar a algo, o fazem em total consonância com como agem as atuais inteligências artificiais generativas: ao receberem um input de uma determinada natureza, respondem com a criação de um texto (no nosso caso, o próprio feed temporariamente organizado em um dado formato específico, e não em outro) que é todo ele composto de acordo com uma lógica anteriormente configurada para gerar uma resposta padronizada em direto respeito à sua própria programação prévia.

Os algoritmos de personalização, portanto, não devem ser encarados como um vigia. Eles não atuam para que algo não nos alcance, mas são sofisticados instrumentos de um novo tipo de composição textual; de textos de variada natureza (imagéticos, verbais, etc.), e muito mais nos vale interpretá-los a esta maneira do que seguir supondo-os como um filtro gerador de bolhas.

A percepção de se estar isolado, de se estar exposto às informações corretas – aquelas que faltam a nossos opositores –, finalmente, não adviria de um suposto insulamento limitador das bolhas. Ferramentas desta nova escrita, os algoritmos não extinguiram o acesso ao diferente, mas golpearam a própria atividade da leitura: desde a sua adoção, estar nas redes deixou de ser um sinônimo de consumo e compartilhamento de conteúdos para tornar-se em uma solitária e introspectiva nova atividade criadora: estamos sempre compondo os nossos próprios feeds personalizados, sempre escrevendo em coautoria os próprios textos que, em última instância, desejamos ler.

________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)


Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.