Na coluna desta semana, o professor Gilson Schwartz comenta sobre a situação da regulação da inteligência artificial que anda a passos lentos no Senado Federal. Ele explica que “controlar a inteligência artificial é um desafio que exige leis, não apenas boa vontade”. Por trás dessa demora há uma guerra de interesses. A Confederação Nacional da Indústria (CNI), por exemplo, tem alertado para o risco da regulação excessiva sufocar a inovação empresarial.
A União Europeia definiu pontos estabelecendo obrigações tanto para os provedores quanto para os usuários e esses são controles que dependem do nível de risco. Mas mesmo os sistemas de baixo risco precisam ser avaliados. “A prioridade é garantir que os sistemas de inteligência artificial sejam seguros, transparentes, rastreáveis, não discriminatórios e ecologicamente corretos. Pode parecer um detalhe, mas é essencial que esses sistemas sejam supervisionados por pessoas e não por automação, ou seja, a inteligência artificial depende e dependerá sempre da inteligência humana com seus altos e baixos, afinal.”
Entre os muitos riscos possíveis, o professor alerta que o inaceitável é quando os sistemas representam uma ameaça às pessoas como “a manipulação cognitiva comportamental de pessoas ou grupos vulneráveis específicos; por exemplo, brinquedos ativados por voz que incentivam comportamentos perigosos em crianças; pontuação social, classificação de pessoas com base em comportamento, status socioeconômico e outras características pessoais. Nesse sentido, Schwartz reforça que é preciso monitorar os sistemas de risco elevado que afetem a segurança ou os direitos fundamentais.
