Ética e responsabilidade são fundamentais para o uso de IA em pesquisas científicas

Anarosa Brandão comenta os principais desafios da aplicação de novas tecnologias nos estudos, tema debatido na 7ª edição do VII Encep

 29/07/2024 - Publicado há 3 meses
Há preocupação com o  impacto ético das tecnologias nas pesquisas, especialmente com a ascensão da medicina de precisão e soluções computacionais para diagnóstico e monitoramento de pacientes – Foto: Vecstock/Freepik
Logo da Rádio USP

A sétima edição do Encontro Nacional dos Comitês de Ética em Pesquisa (VII Encep), parceria entre Governo Federal, Ministério da Saúde e Comissão Nacional de Ética em Pesquisa (Conep), discutiu os desafios e avanços da ética na pesquisa com seres humanos no Brasil, os obstáculos em estudos com novas tecnologias e uso da inteligência artificial. A professora Anarosa Alves Brandão, do Departamento de Engenharia de Computação e Sistemas Digitais da da Escola Politécnica (Poli) da USP, e presidente da Comissão de Inclusão e Pertencimento da Poli, discorre sobre os principais temas abordados no encontro.

Anarosa Alves Brandão – Foto: Reprodução/IEA-USP

De acordo com a especialista, há um crescente desconforto entre os pesquisadores e comitês de ética sobre como ferramentas inteligentes podem impactar a pesquisa e a condução das análises laboratoriais. Ela explica que esse desconforto não se limita à atuação direta dos profissionais da medicina, mas se estende ao impacto ético das tecnologias nas pesquisas, especialmente com a ascensão da medicina de precisão e soluções computacionais para diagnóstico e monitoramento de pacientes.

Conforme a professora, a principal preocupação gira em torno do viés nos algoritmos utilizados nas pesquisas, uma vez que muitos dos problemas éticos estão relacionados com a qualidade dos conjuntos de dados e não necessariamente com os algoritmos em si. Ela cita, por exemplo, a discrepância entre bancos de dados de pacientes gerados no Hemisfério Norte e a diversidade da população brasileira, o que pode levar a resultados desajustados. “Se os dados utilizados para treinar os algoritmos são enviesados, isso afeta diretamente a qualidade e a justiça dos resultados obtidos”, afirma.

Encontro

O evento também abordou a questão da privacidade de dados, especialmente no contexto da Lei Geral de Proteção de Dados (LGPD) no Brasil e suas diferenças com as leis mais permissivas dos Estados Unidos. Anarosa enfatiza a importância de construir termos de consentimento claros e precisos para garantir que os dados dos pacientes sejam protegidos adequadamente. “A construção de termos de consentimento livre e esclarecido deve refletir como os dados serão armazenados e utilizados”, analisa.

Outra questão de extrema importância discutida foi a transparência das informações implementadas nos algoritmos. A especialista explicou que muitos dos algoritmos modernos, especialmente os que utilizam redes neurais, as quais são treinadas para funcionar como o cérebro humano, funcionam como uma “caixa preta”, na qual é difícil entender como os dados são processados internamente.

A professora ressaltou a importância de educar os envolvidos na pesquisa sobre o uso adequado da inteligência artificial. Ela defendeu a criação de cursos de extensão para capacitar pesquisadores e avaliadores sobre o impacto social e ético das tecnologias utilizadas. “A transparência e a explicabilidade dos resultados são preocupações centrais na pesquisa atual. Educar para o uso responsável da IA é fundamental para garantir a integridade científica e ética das pesquisas”, concluiu.

Responsabilidade

Anarosa Brandão também mencionou a importância de se manter a integridade científica, citando que até mesmo resultados premiados, como os de um Prêmio Nobel, podem ser reavaliados se houver conduta inadequada. Ela diz que o Nobel da Medicina de 2013 tem sido alvo de reavaliações em uma série de resultados obtidos por questões de conduta no processo de pesquisa científica.

“A tecnologia pode ser usada tanto para o bem quanto para o mal, então educar para o uso correto é necessário e isso tem que ocorrer em todos os níveis, desde a educação básica até o pós-doutorado. Educar e preparar os pesquisadores para analisar os usos das ferramentas digitais é crucial, dessa maneira é possível identificar prontamente as possíveis aplicações inadequadas desses recursos.”, finaliza.

*Estagiário sob supervisão de Marcia Avanza e Cinderela Caldeira


Jornal da USP no Ar 
Jornal da USP no Ar no ar veiculado pela Rede USP de Rádio, de segunda a sexta-feira: 1ª edição das 7h30 às 9h, com apresentação de Roxane Ré, e demais edições às 14h, 15h, 16h40 e às 18h. Em Ribeirão Preto, a edição regional vai ao ar das 12 às 12h30, com apresentação de Mel Vieira e Ferraz Junior. Você pode sintonizar a Rádio USP em São Paulo FM 93.7, em Ribeirão Preto FM 107.9, pela internet em www.jornal.usp.br ou pelo aplicativo do Jornal da USP no celular. 


Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.