Até que ponto é possível comparar os erros cometidos pela IA aos dos humanos?

Os grandes modelos de linguagem continuam alucinando e cometendo erros muito básicos, avalia Arbix, mas há quem os compare com aqueles cometidos pelos humanos

 Publicado: 23/04/2024

Logo da Rádio USP

A inteligência artificial continua atraindo a atenção de muita gente e cientistas e especialistas já fazem previsões e considerações, há inclusive quem tente comparar as alucinações dessas plataformas novas, tipo ChatGPT, Cloud ou Gemini, a atitudes humanas. O argumento utilizado, conforme Glauco Arbix, é que as alucinações desses modelos acompanham um pouco os erros cometidos pelos humanos, mas ele faz uma observação importante, ou seja, a de que a natureza da resposta de um grande modelo de linguagem é completamente distinta da nossa. “Primeiro, porque eles não têm literalmente nenhum conhecimento das diferenças entre o que é falso e o que é verdadeiro. Eles não têm capacidade de raciocínio para garantir que as suas inferências, daqueles gigantescos bancos de dados, estão corretas, e também os grandes modelos de linguagem são incapazes de fazer a checagem exatamente relacionada à veracidade dos fatos do seu próprio trabalho.”

Arbix admite que os humanos também cometem erros, inventando coisas ou mentindo, muitas vezes até por estarem sob o efeito de drogas ou de bebidas, ou simplesmente por ignorância ou por vontade de fazer o mal. “A base de um e do outro é completamente distinta, talvez essa insegurança dos grandes  modelos de linguagem seja o que está retardando a sua incorporação pela iniciativa privada”, argumenta ele. “Porque a incerteza é muito grande, uma coisa é a gente brincar com imagens, com textos, com ensaios, checa aqui, checa ali; outra coisa é você oferecer esses grandes modelos de linguagem como uma resposta de business, de negócios, aquilo que está ligado à reputação da empresa.” Ele conclui: “Nós já estamos indo para mais de um ano e meio do anúncio público do ChatGPT e até hoje a única resposta que as grandes empresas dão é mais dados, mais poder computacional, e não tem funcionado porque os grandes modelos de linguagem continuam alucinando e cometendo erros muito básicos”.


Observatório da Inovação
A coluna Observatório da Inovação, com o professor Glauco Arbix, vai ao ar quinzenalmente, terça-feira às 8h, na Rádio USP (São Paulo 93,7; Ribeirão Preto 107,9) e também no Youtube, com produção da Rádio USP, Jornal da USP e TV USP.

.


Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.