Usos da IA em pesquisa científica: entre a ética e a estética

Por Elen Nas, pós-doutoranda na Cátedra Oscar Sala, do Instituto de Estudos Avançados da USP

 19/04/2024 - Publicado há 1 mês
Elen Nas – Foto: Reprodução/IEA-USP
Algumas semanas atrás fomos surpreendidos com mais um deslize no ambiente científico envolvendo a inteligência artificial (IA).

Enquanto mais de dez mil artigos publicados em jornais científicos tiveram que ser retirados por usos indevidos/inadequados de IA por motivos distintos, no último mês de fevereiro chamou atenção o artigo publicado pela Frontiers in Cell and Developmental Biology, devido a ilustrações produzidas com IA que continham uma série de erros de proporção e de informação. O fato do impacto das imagens não ser considerado com a devida responsabilidade no ambiente científico, a ponto de o artigo ter sido aprovado tanto pelos revisores quanto pelos editores, demonstra algumas fissuras nas compreensões entre ética e estética, assim como a maneira frívola com que esta última é tratada dentro do pensamento científico.

Um dos revisores considerou que a decisão de aceitar imagens geradas por IA (Midjourney) deveria ser dos editores. A política da Frontiers para uso de IA determina que figuras produzidas com esse recurso devem ser checadas para garantir sua acurácia em refletir os dados apresentados pelo artigo. Entretanto, a regra não foi observada e o artigo passou por todas as fases de revisão até sua publicação em menos de três meses.

Vamos então desdobrar o problema, primeiro entendendo que o projeto de racionalidade apresentado por Platão pretendeu colocar o exame da verdade sobre os fatos no lugar das fantasias e interpretações – mais comuns no território da poética. Houve, desde este momento um discurso de autoridade evocada para si (e para o projeto científico definido pela investigação de como as coisas são) e uma marginalização da poeisis como se não houvesse ciência na criação e como se a praxis também não fosse composta de invenções, intuições e emoções. Já na racionalidade científica moderna que têm Descartes como precursor, a distinção entre corpo e mente, sentidos e razão, confere à teoria um lugar hierarquicamente mais elevado do que o lugar da experiência sensorial, o que dá à pesquisa empírica caráter secundário, via de regra abrindo precedentes para sua interpretação de algo que é menos culto.

Cadernos de estudo 2016: A possibilidade de uma ciência do design foi defendida na literatura como uma substituição aos modos tradicionais do fazer científico e reformulação de métodos dentro de uma transdisciplina; a IA reacendeu estudos interdisciplinares e impulsionou novas pesquisas na neurociência.

Desse modo, mesmo dentro do pensamento ocidental, fissuras foram criadas, dificultando com que as demandas de trans/interdisciplinaridade que emergem no século 20 encontrem meios de estabelecer seus diálogos. Ao lado há uma figura dos meus cadernos de estudo em Design, de 2016, onde busco vias de correlacionar as interseções entre as disciplinas, pois percebia que ao conversar com filósofos muitas vezes o pensamento é observado de maneira descolada dos contextos históricos, políticos e sociais. E esta é uma observação empírica pois formalmente tais filósofos sabem que o pensador é um agente ligado ao seu meio e ao seu tempo. Possivelmente um hábito cunhado desde o período helenístico de pensar o humano e o pensamento com características genéricas e universais.

Assim, quando um cientista da computação ou da biomedicina diz que a interdisciplinaridade está existindo de algum modo, provavelmente não leva em conta que dentro dos diálogos interdisciplinares comumente se respeitam hierarquias sobre o que pode ou deve ser considerado propriamente científico e válido. A propósito, em muitas áreas do conhecimento artigos podem levar mais de um ano para serem publicados e muitos questionamentos são colocados sobre ideias que não convergem com um certo ‘senso comum’ dentro do ambiente acadêmico-científico.

Portanto há um lugar de privilégio na academia, e para entender como ele acontece basta observarmos quem são os protagonistas, quais as suas características mais comuns – desde o perfil até o gênero e cor da pele – e onde estão concentrados os recursos destinados à pesquisa e desenvolvimento.

Dito isto, o neurocientista António Damásio, após vencer muitas resistências entre os pares da neurociência e com base em pesquisas clínicas, chamou atenção para o caráter nocivo no modo que os conceitos da racionalidade moderna marginalizam as emoções promovendo a idéia de que a razão faz parte de um domínio diferente que não é afetado pelos sentidos. Nocivo no sentido de ser impeditivo para desenvolvermos melhores entendimentos na ciência sobre os funcionamentos do corpo. Em O erro de Descartes, ele argumenta que a razão é uma das paixões humanas, ou seja, é um ideal imaginado e defendido com um entusiasmo às vezes um tanto cego.

A descoberta dos “neurônios espelho”, por exemplo, mostrou que o aprendizado não acontece na mente de forma isolada, como se o cérebro fosse um sistema computacional que apenas precisa ser alimentado de dados. Mas que o aprendizado depende da observação e da experiência sensorial, assim como a singularidade dos processos de individuação é representada pelo qualia – experiências únicas tais como memórias afetivas.

O filósofo Terry Eagleton argumenta em A Ideologia da Estética que o pensamento racionalista ocidental moderno fez uso da estética para modular os sentidos à necessidade de controle comportamental dentro de uma ideologia onde supostamente todos teriam direitos iguais e a Igreja deixava o protagonismo de regular o que é certo e o que é errado para dar lugar às leis. Estas, por sua vez, seriam sempre manipuladas para privilegiar todos aqueles que saberiam se comportar nos modos entendidos como mais refinados e adequados, demonstrando nas maneiras de se vestir, falar, e se portar nos eventos sociais, a sua conformidade com os parâmetros de justiça.

Assim, o lugar da estética como subalterno e instrumental tornou a percepção do seu impacto como algo de menor importância. Se por um lado, os modos de manipular comportamentos através de “regras de etiqueta” – o que é elegante e belo ou o que é feio e grotesco em gestos e atitudes, e não apenas objetos de arte e outros artefatos – tornaram-se de grande impacto no que o filósofo Michel Foucault chamou de biopoderes orquestrados por biopolíticas, há uma invisibilidade sobre o alcance da estética de modo que as avaliações éticas sobre seus impactos vêm a requerer maior atenção.

Em geral, na estética transferida para os modos e costumes, o julgamento comportamental privilegia não apenas características de uma determinada cultura, como também a ideologia de uma classe social que propaga direitos e deveres que na prática possuem pesos desiguais. Estes julgamentos, embora bastante influentes, são como “leis paralelas” nem sempre citadas como argumentos na esfera formal.

Por outro lado, os impactos das imagens nas percepções que se têm sobre o corpo, os fenômenos que nos cercam assim como sobre as nossas identidades são ainda um campo a ser mais bem investigado em perspectivas científicas. Pois iniciativas tímidas como a criação de um campo de estudo chamado “ética visual” procurou demonstrar a necessidade do debate interdisciplinar sobre como as imagens podem influenciar as percepções públicas e individuais, em assuntos sociais e científicos. Enquanto imagens podem ser utilizadas para chamar atenção, chocar ou mesmo incentivar culpa, como no caso do tema sobre ter ou não ter direito ao aborto, a “ética visual” ou uma bioética sobre as imagens (2008) na prática não se desenvolveu como campo de estudo conforme anunciado.

Assim, quando sugeri a “bioética da não presença” para debater a bioética sobre as tecnologias emergentes (IA e robótica) a intenção foi criar uma ponte que fosse capaz de levar a crítica cultural para a avaliação ética sobre os modos invisíveis pelos quais as ideias se consolidam não apenas em imagens, mas em projetos e toda espécie de produto/artefato. E, além das ideias iniciais que determinam como as coisas devem ser ou por onde devem se encaminhar, como é o caso dos algoritmos, há também a necessidade de consciência sobre as dinâmicas de fluxos e trocas de informações que resultam em cada objeto. Sejam eles humanos, não humanos, animados, inanimados, de carbono ou silício, sejam identificados e expressos em telas planas, sejam eles tridimensionais, imaginados, tecnológicos, ou rústicos e palpáveis.

Voltemos então ao caso da imagem gerada por IA citada no início deste texto e notamos que:

1- As ilustrações foram vistas (pelos autores, revisores e editores) como de menor importância e sem necessidade de refletirem o objeto do estudo;
2- A IA, da maneira como é treinada, pode criar memes e outras imagens que repliquem tendências e estéticas comuns da maneira como estão disponíveis em diversas mídias digitais. E mesmo quando são incomuns as imagens também representam modelos estéticos definidos por uma elite tecnológica, desde as empresas, desenvolvedores, até os estudiosos e voluntários que se dispõem a votar no que é esteticamente considerado de boa qualidade em uma imagem.
3- O incidente demonstrou que há uma oportunidade de mercado para treinamento de uma IA voltada para criar imagens que ilustrem pesquisas científicas, já que podemos supor que o que parecem ser, no rato, bolas e um pênis gigante, poderia ser uma lente de aumento sobre o fenômeno observado.

Mas, sobretudo, é importante observar que novos produtos de IA assim como novos regulamentos não irão resolver os vícios que são estruturais nos modos como os campos do conhecimento se expandem e se desenvolvem no campo tecnocientífico.

A IA vêm condensando perspectivas antigas repaginadas com novos dados tornando-se necessário ampliar a consciência sobre em que medida a lógica aplicada aos algoritmos precisaria ser revista, assim como as estruturas disciplinares de ensino que tendem a repetir a alienação industrial sobre o entendimento do todo em favor do entendimento de partes em separado.

Devemos nos perguntar sobre como uma IA responsável (IAR) poderá solucionar os impasses éticos das aplicações de IA nos diversos setores da vida, se na prática a IA tende a reforçar monoculturas que divergem com a Declaração Universal da Unesco sobre a Diversidade Cultural, quando se entende que a cultura reúne características espirituais, materiais, afetivas e intelectuais dentro de um sistema de valores de modo que o respeito à diversidade cultural representa para os humanos o mesmo que a diversidade biológica para os organismos vivos.

Portanto, se a excelência estética de uma imagem será julgada pelo seu acabamento alcançado por ferramentas computacionais que, ou não são amplamente acessíveis como também não necessariamente são representativas sobre o que se quer ilustrar, talvez seja o caso de voltarmos ao tempo em que algumas coisas serão consideradas melhores quando feitas manualmente.

________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)


Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.