Nesta edição da coluna Observatório da Inovação, Glauco Arbix mira num problema que considera grave: vícios e práticas mal-intencionadas viabilizados por recursos da própria inteligência artificial. Ele chama a atenção para erros flagrantes em artigos científicos, os quais estão chamando cada vez mais atenção de editoras e de pesquisadores. “Pois bem, recentemente, uma grande editora flagrou um artigo que começava com a seguinte frase: ‘Certamente aqui está uma possível introdução ao seu tópico”, um estilo típico do ChatGPT […] poucos poderiam imaginar que esse tipo de prática estava penetrando silenciosamente no mundo da pesquisa científica. Entidades especializadas em rastrear erros e problemas em estudos científicos estão começando a identificar uma onda de equívocos, de problemas e de fraudes desse tipo, que pode dificultar a confiabilidade da própria ciência”, constata.
Há pouco tempo, uma revista acadêmica de reputação acabou retirando de circulação um artigo assim que começou a receber denúncias da participação da inteligência artificial no processo, o mesmo tendo ocorrido com uma outra outra grande editora britânica, que identificou um artigo claramente sugerido por um modelo generativo. “Veja, a preocupação não é com os fatos isolados, mas é com a possibilidade de que os pesquisadores estejam cada vez mais incorporando esses modelos e práticas ruins em suas pesquisas e artigos. A University College London rastreou milhões de artigos científicos e identificou que pelo menos 60 mil artigos, só em 2023, foram publicados com base em algum tipo de recurso em IA.”
A preocupação, segundo Arbix, é que os recursos de IA possam patrocinar uma indústria de artigos de baixa qualidade, plagiados ou falsos, porque não têm comprovação alguma. “O que nós temos que saber é que as universidades têm o dever de acelerar a educação desses pesquisadores: professores, alunos e funcionários precisam saber que esse tipo de atitude é inaceitável. E as universidades, as agências de fomento e as revistas precisam ‘se armar’ com recursos para coibir, para impedir práticas desse tipo, sob pena de a gente corroer a reputação da ciência, que é a trincheira da racionalidade, que é uma instituição confiável e construída ao longo, muitas vezes, de séculos.”
Observatório da Inovação
A coluna Observatório da Inovação, com o professor Glauco Arbix, vai ao ar quinzenalmente, terça-feira às 8h, na Rádio USP (São Paulo 93,7; Ribeirão Preto 107,9) e também no Youtube, com produção da Rádio USP, Jornal da USP e TV USP.
.
