Inteligência artificial ainda sofre com algoritmos enviesados

Colunista comenta sobre um estudo norte-americano que identificou esse problema e aponta a necessidade de atenção

Serviços baseados em inteligência artificial ganham cada vez mais espaço no nosso cotidiano. Na coluna de hoje, o professor Glauco Arbix conta que, apesar do grande potencial do uso dessas tecnologias, ainda há problemas não controlados pelos fornecedores desse tipo de produto.

Um estudo publicado na revista Science fez com que cientistas acompanhassem a evolução de um software voltado para a área da saúde, que indicava a ordem de prioridade dos pacientes em fila para receber atendimento. O resultado foi que existia um viés racial, que desfavorecia pessoas negras nos algoritmos do sistema. “É possível diminuir as tendências dos algoritmos, corrigindo distorções que possam prejudicar pessoas, mas é preciso que o problema apareça, que alguém aponte o problema, caso contrário, o software continuará trabalhando.”

Saiba mais ouvindo a coluna na íntegra.


Observatório da Inovação
A coluna Observatório da Inovação, com o professor Glauco Arbix, vai ao ar toda segunda-feira às 10h50, na Rádio USP (São Paulo 93,7 FM; Ribeirão Preto 107,9 FM) e também no Youtube, com produção do Jornal da USP e TV USP.

.

.

.


Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.