Presente em diversos aparelhos, programas e sites, a Inteligência aArtificial é uma ferramenta poderosa, usada para o desenvolvimento científico e para o aprimoramento de tecnologias. No entanto, seu uso também levanta preocupações relevantes sobre o direito dos usuários sobre seus dados e outros problemas éticos.
Segundo Juliano Maranhão, professor associado da Faculdade de Direito da USP e diretor do Instituto Lawgorithm, o acordo da Unesco é formado por um conjunto de princípios éticos que buscam garantir que a Inteligência Artificial seja utilizada para fins benéficos. Para isso, o texto do acordo apresenta uma série de tópicos fundamentados nos direitos humanos.
Um desses tópicos é o combate à discriminação algorítmica, isto é, o preconceito que “transborda” dos criadores da Inteligência Artificial para a ferramenta, causando distorções em seu funcionamento. Outro ponto importante é a cobrança de que os desenvolvedores prestem contas aos usuários sobre o funcionamento das tecnologias e sobre como elas coletam e processam seus dados.
O acordo fala ainda sobre a necessidade de revisão humana, quando a Inteligência Artificial participa de “decisões que afetem significativamente o acesso a bens e a direitos humanos”, conta Maranhão.
Há, também, a demanda de que os sistemas de Inteligência Artificial sejam desenvolvidos por pessoas que têm as habilidades e as competências adequadas para a sua produção. O acordo da Unesco é resultado de longos estudos, que vêm sendo conduzidos em escala global.
“Na verdade, a Unesco já tinha um conjunto de recomendações sobre princípios aplicáveis à Inteligência Artificial para desenvolvimento de uma Inteligência Artificial confiável. Esse conjunto de princípios éticos passou, no último ano, por uma revisão ampla, inclusive por uma discussão em diferentes países em que as recomendações anteriores foram testadas diante de oito casos práticos e debatidas com representantes da sociedade civil de diferentes países”, conta Maranhão.
O professor, que coordenou uma parte da pesquisa no Brasil, conta sobre o processo: “Nós formamos grupos de discussão desses casos e analisávamos se as recomendações anteriores eram relevantes para resolver aqueles casos e se eram suficientes e aplicáveis, especificamente para uma discussão concreta dos problemas que apareciam nos conflitos envolvendo Inteligência Artificial. Esses conjuntos de discussões então levaram a reports, que foram encaminhados a um grupo de trabalho na Unesco, que então desenvolveu essa nova formulação que foi objeto desse acordo, divulgado em novembro”.
Os impactos do acordo
Para Maranhão, a grande importância das recomendações divulgadas pela Unesco está em seu caráter uniformizador. “O principal efeito e impacto desse documento da Unesco é orientar e uniformizar legislações ou regulamentações dos diferentes países que efetivamente imponham obrigações vinculantes sobre melhores práticas de governança da Inteligência Artificial. A gente entra numa era em que a regulação avança para o entendimento de que devem ser estabelecidas obrigações procedimentais, ou seja, a imposição de obrigações mínimas sobre quais são os mecanismos adequados e do estado da arte de regulação e de governança da Inteligência Artificial, que devem se inspirar, para que sejam uniformes, num documento de alcance internacional, como é esse documento da Unesco.”
Outro ponto importante é que elas não se limitam a princípios abstratos e estabelecem recomendações detalhadas, que consideram a aplicabilidade.
A lista de recomendações da Unesco ainda pode ter um papel importante na conscientização dos usuários sobre a Inteligência Artificial: “Na medida em que ela é estruturada em direitos fundamentais e nós falamos de Estados membros que têm constituições democráticas, que também são estruturadas em direitos fundamentais, isso permite ao cidadão que conheça melhor e entenda em que medida seus direitos fundamentais podem ser afetados por sistemas de Inteligência Artificial, e quais são as prerrogativas que ele pode levantar perante aqueles que implementam ou empregam a Inteligência Artificial no sentido de resguardar esses direitos”.
Jornal da USP no Ar
Jornal da USP no Ar no ar veiculado pela Rede USP de Rádio, de segunda a sexta-feira: 1ª edição das 7h30 às 9h, com apresentação de Roxane Ré, e demais edições às 14h, 15h, 16h40 e às 18h. Em Ribeirão Preto, a edição regional vai ao ar das 12 às 12h30, com apresentação de Mel Vieira e Ferraz Junior. Você pode sintonizar a Rádio USP em São Paulo FM 93.7, em Ribeirão Preto FM 107.9, pela internet em www.jornal.usp.br ou pelo aplicativo do Jornal da USP no celular.
