Expressões caracterizadas pela profundidade têm assomado o vocabulário atual, em particular o praticado no ambiente acadêmico. Como sói acontecer, elas são manifestadas na língua franca contemporânea, o inglês. Comparecem nos meios de comunicação gerais e especializados em forma de locuções iniciadas pelo adjetivo deep. Assim, encontramos as expressões deepfake, deep learning, deep ecology e deep tech, entre tantas outras.
A noção de profundidade nos parecia óbvia, dispensando explicações, tanto na experiência individual (como quando somos instados a “respirar fundo” durante um exame clínico) como na vivência coletiva (como na discussão sobre os méritos e riscos da produção de petróleo “em águas profundas”). Os novos usos, todavia, carecem de aclaração e, em alguns casos, de interpretação.
Por exemplo, o que significa exatamente deep learning, ou seja, aprendizagem profunda? À primeira vista, é uma proposição do campo da pedagogia, como seria de esperar. A Association for Supervision and Curriculum Development (ASCD), uma organização global de educadores/as voltada ao desenvolvimento e supervisão de currículos, assim a define: “Deep learning instruction provides students with the advanced skills necessary to deal with a world in which good jobs are becoming more cognitively demanding. It prepares them to be curious, continuous, independent learners as well as thoughtful, productive, active citizens in a democratic society”. Como se diz popularmente, “é tudo de bom”. Que se manifeste quem questiona o objetivo de preparar jovens “para serem aprendizes curiosos, permanentes, independentes, bem como cidadãos atenciosos, produtivos e ativos em uma sociedade democrática”.
Contudo, o uso prevalente da expressão deep learning é outro. Trata-se do seguinte, de acordo com a popular Wikipédia (em português): “é um ramo de aprendizado de máquina (machine learning) baseado em um conjunto de algoritmos que tentam modelar abstrações de alto nível de dados usando um grafo profundo com várias camadas de processamento, compostas de várias transformações lineares e não lineares”. Pausa para releitura e para tentativa (de início, infrutífera) de compreensão dessa tentativa de explicação.
Entender o que é “aprendizado de máquina” parece ser uma etapa necessária para que seres humanos medianamente educados atinem o que é a já não mais óbvia “aprendizagem profunda”. A empresa IBM, parceira da USP e da Fapesp no Centro de Inteligência Artificial (C4AI) assim a apresenta: “Machine learning é uma área da inteligência artificial (IA) e da ciência da computação que se concentra no uso de dados e algoritmos para imitar a maneira como os humanos aprendem, melhorando gradualmente sua precisão”. E prossegue, explicando sua importância no crescente campo da ciência de dados: “por meio do uso de métodos estatísticos, os algoritmos são treinados para fazer classificações ou previsões, revelando os principais insights em projetos de mineração de dados”.
Ainda que algo ofuscada pelo uso da expressão enigmática “principais insights em projetos de mineração de dados”, reconhecemos que apareceu uma luz no fim do túnel da aprendizagem humana. Isso nos anima a ir a fundo na busca de entendimento da “nova” aprendizagem profunda. Seguindo a pista indicada, chegamos ao assunto efervescente dos nossos dias – a inteligência artificial, da qual o aprendizado de máquina é uma área, área da qual o aprendizado profundo é um dos ramos.
A tradicional enciclopédia Britannica esclarece que “o termo é frequentemente aplicado ao projeto de desenvolvimento de sistemas dotados dos processos intelectuais característicos dos seres humanos, como a capacidade de raciocinar, descobrir significado, generalizar ou aprender com a experiência passada”. O nosso objeto de estudo está ficando mais compreensível. Afinal, aprender com a experiência passada é um mote de caráter afetivo – ouvimos essa recomendação de nossos familiares e professores desde que éramos infantes. É verdade que rapidamente nos demos conta de quão difícil, por vezes improvável, é aprender com a experiência passada. Ilustra esse ceticismo a famosa frase de Karl Marx em seu livro O 18 de Brumário de Luís Bonaparte sobre a repetição dos Bonaparte (o tio Napoleão e o sobrinho Luís) no poder: “A história se repete, primeiro como tragédia, depois como farsa”.
Pesquisadores e respectivas organizações vêm desenvolvendo inovações que tornam a efetividade da aprendizagem a partir de experiências passadas no domínio da inteligência artificial maior do que a verificada no mundo dos humanos. Elas se fundamentam numa abordagem que nos leva às profundezas da tecnologia moderna. Ali nos deparamos com as redes neurais profundas (deep neural networks), onde “rede neural” é um programa de computador que opera de um modo que é inspirado na rede neural natural do cérebro humano. A ideia é emular as habilidades de reconhecimento de padrões do cérebro, ensejando aplicações em setores tão diversos quanto o financeiro e o médico.
A tecnologia avança celeremente. Recente divulgação da empresa acima mencionada informa dispor de “nova versão do seu chip neuromórfico, um processador que faz cálculos imitando o funcionamento das redes neurais cerebrais”. E esclarece: “usando o chip, nós realizamos o estudo mais abrangente da precisão computacional da computação analógica na memória e demonstramos uma precisão de 92,81% no conjunto de dados de imagem CIFAR-10”. Em tempo, CIFAR-10 é uma coleção canadense de imagens utilizadas para treinar algoritmos de aprendizado de máquina e visão computacional.
A questão que incomoda na inteligência artificial não é a “capacidade de aprender” das experiências passadas, mas sim “quais são as experiências passadas” com as quais esses sistemas aprendem. São conhecidas as consequências dramáticas do uso de técnicas de reconhecimento facial baseadas na inteligência artificial que levam à atribuição equivocada de crimes por terem sido alimentadas por bases de imagens enviesadas.
Menos conhecido, mas igualmente preocupante, é como se dá na prática o processo de aprendizagem de máquina. As máquinas até podem aprender, mas dependem da alimentação de dados que é feita manualmente por uma legião de pessoas, denominadas “rotuladores” ou “turcos mecânicos”, entre outros epítetos. Frequentemente, do chamado Sul Global, elas recebem uma remuneração pífia, por um trabalho muito desgastante.
Há, ainda, a questão dramática da ergonomia inapropriada dos sistemas de aprendizagem profunda, que desconsideram a experiência humana concreta de vivermos num mundo de elevada variância moral. Potencializam-se assim as condições para o espraiamento do flagelo da deepfake – a mescla tóxica de deep learning e fake, ou seja, aprendizagem profunda falsária.
O desafio da sociedade é combinar a produção de conhecimento e sua translação para inovações (deep tech) com os cuidados necessários para que haja benefício efetivo e respeitoso à humanidade. Em linguagem simples, como “ir fundo” sem “ir ao fundo”. A Universidade tem uma responsabilidade grande na transformação da atual inteligência artificial em inteligência artificial emancipadora.
_______________
(As opiniões expressas pelos articulistas do Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)
