Quando Stuart Russell e Peter Norvig publicaram, em 1995, seu influente manual de ciência da computação, ambos estabeleceram, a partir desta definição um tanto quanto cibernética, a simulação da ação racional como a unidade fundamental de análise da IA. Neste manual, as máquinas de Turing, ou seja, os modernos computadores digitais, passam do jogo da imitação do pensamento ao jogo da imitação da ação.
Assim, inteligência e ação aparecem interconectadas. Isto porque tal tecnologia compreende sistemas computacionais capazes, segundo Margaret Mitchell e seus colegas, de criar planos contextuais específicos em ambientes não determinísticos. Para tal, estes agentes devem funcionar em um ciclo que vai da percepção à ação e suas diferentes arquiteturas devem definir como tal ciclo será implementado, seja através do raciocínio simbólico, das regras reativas, do controle híbrido ou do aprendizado de máquina, seja este com redes neurais artificiais profundas ou não.
Graças ao acúmulo de vastas quantidades de dados via internet-web e da capacidade computacional alcançada pelas unidades de processamento gráfico (UPGs), hoje, a IA generativa tornou-se boa o suficiente para simular conversas conosco gerando textos, imagens e áudios os mais diversos. Seus modelos de linguagem natural de grande escala, porém, ainda não são suficientemente bons para executar tarefas com certo nível de autonomia em ambientes digitais.
E é aí que a IA agêntica deveria se encaixar no quebra-cabeça da automação total, como a peça “pro-ativa” (e não apenas “reativa”) que estava faltando para montá-lo, já que sua promessa é precisamente corrigir esta insuficiência. Algo ainda distante no horizonte da automação total. Lançado recentemente, o Remote Labor Index demonstrou que agentes de IA continuam tendo dificuldades para automatizar tarefas complexas de freelance.
Para as big techs, já não basta mais construir ferramentas de IA generativa. Em meio a suspeitas sobre a formação de mais uma bolha, estas empresas transnacionais precisam construir agora agentes de IA capazes não só de simular o que pensamos, mas de fazer o que pensamos. Além disso, como a construção de agentes de IA que simulam o comportamento humano se tornou cada vez mais fácil, o que antes resultava em dois tipos distintos de agentes pode se tornar uma coisa só. O tipo que automatiza tarefas e o que simula comportamentos podem se confundir.
A fusão destes dois propósitos já preocupa muita gente que estuda os impactos sociais da IA. Como distinguir, por exemplo, um agente de IA de um humano quando acessamos um serviço de atendimento ao consumidor? Como identificar se um agente de IA está comprando passagens aéreas sob nossa autorização? E se alguém usar um agente hackeado em nome de outrem? Teremos direito à autenticidade ou ficaremos reféns da simulação?
Enfim, poderíamos passar horas a fio listando os múltiplos problemas de privacidade e/ou segurança da informação que os agentes de IA já estão causando. Mais do que isso, poderíamos entrar em uma infindável discussão sobre os problemas éticos causados por tais agentes. Se é que podemos falar em ética quando estamos lidando com uma tecnologia antiética by design! Basta olhar as cadeias globais de produção da IA, marcadas pela superexploração de um trabalho humano que vai das minas de lítio às plataformas de microtarefas como a Mechanical Turk.
________________(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)
