“Automatus”: Analogia de IA para o uso responsável

Por Marcelo Batista Nery, pesquisador da Cátedra Oscar Sala do Instituto de Estudos Avançados da USP

 27/11/2024 - Publicado há 3 meses     Atualizado: 29/11/2024 às 15:44
Marcelo Batista Nery – Foto: Arquivo pessoal
A Inteligência Artificial (IA) está no centro de muitas discussões atuais, e em diversas reuniões e eventos em que participo, observo que especialistas frequentemente recorrem a analogias para esclarecer suas perspectivas sobre essa tecnologia. Uma das mais comuns é compará-la a uma ferramenta. No recente 1º Seminário de IA Responsável da Cátedra Oscar Sala: IA e Governo, foi apresentada uma interessante comparação: a IA é como uma chave de fenda. Assim sendo, versátil, fruto de anos de desenvolvimento tecnológico e aperfeiçoamento prático, mas com usos distintos, dependendo das circunstâncias. Em uma oficina, uma chave de fenda serve objetivamente para apertar parafusos; em uma prisão, torna-se potencialmente uma arma.

Com essa lógica em mente, proponho uma analogia própria: a IA é como um automóvel.

Especialmente nas áreas de saúde e segurança pública, foco dos meus estudos, a comparação entre IA e automóvel mostra-se interessante. Ambos revolucionaram múltiplas esferas da sociedade, abrangendo aspectos tecnológicos, econômicos, legais, ambientais e socioculturais. Para entender esse impacto, é útil traçar um paralelo com a revolução automotiva e seus desdobramentos.

Assim como o automóvel transformou a manufatura com a produção em massa nas linhas de montagem, a IA está impulsionando a criação em escala de sistemas e dispositivos. O motor a combustão, que impulsionou o carro, pode ser comparado aos algoritmos, que movem a automação de tarefas complexas. Enquanto o automóvel se tornou uma peça central da infraestrutura industrial e de transporte, a IA está rapidamente se tornando indispensável para a análise de dados em grande escala e a personalização de serviços digitais.

A indústria automobilística gerou milhões de empregos, tanto direta quanto indiretamente. A construção de rodovias e infraestrutura de apoio, como postos de gasolina e oficinas, impulsionou o desenvolvimento de várias regiões. Todavia, isso levou ao desaparecimento ou à diminuição significativa de diversas profissões, como fabricantes de carruagens e carroças, condutores de carruagens, cocheiros e ferreiros. A IA está gerando efeitos semelhantes, ao criar novas profissões e infraestruturas, fomentando novos negócios e, ao mesmo tempo, substituindo funções rotineiras e repetitivas.

Um automóvel pode ser usado como uma arma em certas circunstâncias (como em um atropelamento intencional) ou pode tornar-se um instrumento letal por imperícia, negligência ou imprudência. Com a popularização dos automóveis, surgiram leis de trânsito para garantir a segurança, incluindo limites de velocidade, sinalização para orientar condutores e pedestres, além de regras de licenciamento. De maneira semelhante, a rápida adoção da IA levanta questões éticas e regulatórias, como privacidade, responsabilidade civil e transparência para especialistas e usuários.

Assim como a regulamentação evitou acidentes e incentivou o uso prudente dos automóveis, normas para a IA são essenciais para o uso responsável dessa tecnologia.

A expansão das cidades foi diretamente influenciada pelo automóvel, que facilitou a difusão de áreas suburbanas e remodelou a infraestrutura urbana. O carro deu autonomia de deslocamento, mas também incentivou o uso excessivo de transporte particular. De maneira análoga, a IA está moldando o ambiente digital e físico, influenciando decisões sobre como as cidades inteligentes devem ser pensadas, gerenciadas e planejadas, além de impactar as formas de contato interpessoal, que, em muitos casos, estão se tornando cada vez mais virtuais. Assim como o automóvel exacerbou desigualdades ao beneficiar inicialmente as elites urbanas, a IA pode aumentar a desconexão entre aqueles que têm acesso à tecnologia e aqueles que não a têm.

A produção de automóveis e a IA compartilham impactos significativos em termos de recursos energéticos e geopolítica. A indústria automobilística, devido à demanda por combustíveis fósseis e materiais, gerou dependência global e influenciou o poder nas relações internacionais, especialmente no que diz respeito aos combustíveis fósseis. De maneira semelhante, o desenvolvimento de IA exige um grande consumo de energia em data centers, comparável ao impacto de grandes frotas de veículos. Além disso, a IA redefine relações de poder global, influenciando a busca por hegemonia tecnológica, econômica e militar, além de criar novos desafios relacionados a questões como governança, desigualdade e ética, sobretudo no que diz respeito aos dados.

Observamos o automóvel transformar-se um símbolo de status e liberdade, moldando estilos de vida e subculturas. A IA está seguindo um caminho similar ao criar novas formas de expressão, como na música e nas artes visuais, tornando-se uma catalisadora de mudanças culturais associadas aos avanços tecnológicos, alavancadas por novos ecossistemas de comunicação e interação.

É comum o uso de analogias para resolver lacunas; ou seja, quando não há um princípio específico consolidado em uma determinada área do conhecimento, utiliza-se uma situação semelhante para melhor compreensão dos argumentos. A comparação entre automóveis e IA revela como ambas as inovações, em diferentes épocas, trouxeram avanços e desafios significativos para a sociedade. Assim como o automóvel alterou desde a paisagem urbana até as formas de interação social, a IA está mudando tudo o que toca, mas de forma muito mais acelerada.

Meu ponto é que ambos exigem uma compreensão profunda de seus impactos para garantir que seus benefícios sejam acessíveis e seus riscos minimizados. Portanto, ambos exigem qualificação. Um motorista não qualificado se torna um risco para si e para os outros, aumentando o perigo de acidentes. De modo semelhante, quem utiliza IA precisa entender os fundamentos da tecnologia, incluindo a forma como os modelos são treinados, a avaliação dos resultados e as questões éticas envolvidas. Em ambos os casos, os impactos negativos afetam não apenas indivíduos, mas também a sociedade como um todo. Assim como aprender a dirigir requer prática e atualização constante, utilizar a IA de forma responsável demanda formação contínua; exige mais esforço e conhecimento, e não menos.

________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)


Política de uso 
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.