Dez princípios para utilizar a inteligência artificial com ética

Declaração de Montreal reúne diretrizes para uso ético de inteligência artificial, às quais organizações podem aderir

 

Na coluna Ciência e Cientistas, o físico Paulo Nussenzveig cita Stephen Hawking para discutir a ética na utilização da inteligência artificial. “Hawking usava um sistema computadorizado para se comunicar, com uma voz sintética que se tornou mundialmente reconhecida. O sistema que tornava sua vida mais fácil era baseado em algoritmos de aprendizado de máquina, parte do que conhecemos como inteligência artificial”, conta. Há alguns anos, Hawking manifestava temores que a inteligência artificial poderia criar máquinas inteligentes, que se autoaperfeiçoariam e que acabariam voltando-se contra a humanidade.

Nussenzveig relata que, no último dia 4 de abril, Davide Castelvecchi publicou uma entrevista com o cientista de computação Yoshua Bengio, na revista Nature. “Bengio, que recebeu no ano passado um dos mais importantes prêmios internacionais em computação, a medalha Turing, lidera um esforço para produzir um código de conduta internacional para uso ético de inteligência artificial”, afirma. “Entre as preocupações mencionadas por Bengio, estão o uso de inteligência artificial em drones militares, em aplicações de vigilância governamental, permitindo que seja usada por pessoas poderosas para que mantenham ou ampliem seus poderes. Ele também menciona a possibilidade de a inteligência artificial ampliar discriminação e preconceitos, afinal essas características estão tipicamente presentes nos dados usados para treinar os algoritmos, refletindo comportamentos (mesmo inconscientes) dos programadores.”

Sob a liderança de Bengio, foi criada a Declaração de Montreal, um conjunto de diretrizes para o uso ético de inteligência artificial ao qual organizações podem aderir, afirma o físico. “A iniciativa tem interessantes aspectos inovadores. Diferentemente de outras, em que apenas pesquisadores da área contribuíram, a Declaração de Montreal envolveu pesquisadores de ciências sociais e humanidades, além do público em geral”, aponta. “O processo levou aproximadamente um ano, com reuniões, oficinas de discussão e longa preparação. Segundo Bengio, a participação de outros ‘atores’, além dos pesquisadores da área, ampliou o conjunto de princípios da declaração, que eram inicialmente sete, para dez.”

Saiba quais são os princípios da Declaração de Montreal ouvindo o áudio acima.

Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.