Blog
O ChatGPT vem alimentando tanto a euforia dos devotos da tecnologia quanto os horrores apocalípticos de quem teme a obsolescência da humanidade diante das máquinas - Fotomontagem: Jornal da USP - Fotos: Pexels e Wikipedia
ChatGPT: entre o fascínio e o temor pela tecnologia
Promovido pelo Instituto de Estudos Avançados (IEA) da USP, seminário sobre a nova ferramenta digital e seus impactos na educação acontece no dia 21, das 9 às 17 horas, com transmissão ao vivo pela internet
Não sabemos se aconteceu exatamente como visto em 2001: Uma Odisseia no Espaço, mas é bem provável que o assombro pela tecnologia entre os primatas tenha sido mesmo bem próximo do que as telas mostraram. Desde a aurora da humanidade, um fascínio quase religioso e um pavor pela própria existência da espécie se misturam a cada invenção ou avanço que promete mudar o mundo como nós o conhecemos. Ficamos entre o deslumbramento de chegar até Júpiter a bordo da Discovery One e o terror do abandono no espaço sideral arquitetado pela malícia do supercomputador HAL 9000.
A tecnologia da vez que chega para solavancar as emoções atende pelo nome pouco charmoso, mas coerente com o mundo de siglas em que habitamos, de ChatGPT (do inglês Chat Generative Pre-trained Transformer, ou transformador pré-treinado gerador de bate-papo). Em termos básicos, trata-se de uma inteligência artificial (IA) capaz de oferecer respostas para os usuários no formato texto, simulando um bate-papo. A partir de um banco de dados vastíssimo, estimado em 45 terabytes, o ChatGPT calcula as respostas mais prováveis para virtualmente qualquer pergunta permitida por sua programação, de matemática e física quântica até questões existenciais e cultura erudita (ilegalidades e similares ficam de fora). Em segundos, a IA consegue entregar textos curtos, objetivos, coerentes e gramaticalmente corretos sobre praticamente qualquer coisa, que assombram pela eficiência e abrangência.
Seja no campo do ensino ou da pesquisa, para professores ou estudantes, as inovações que o ChatGPT pode trazer, mesmo que ainda não muito claras, parecem inevitáveis. É por isso que o Instituto de Estudos Avançados (IEA) da USP realizará no dia 21 de março, das 9 às 17 horas, o evento ChatGPT: Potencial, Limites e Implicações para a Universidade. No formato on-line – com transmissão ao vivo pelo site do IEA -, a programação reunirá pesquisadores e especialistas da USP e de outras instituições nacionais para discutir as transformações que a nova tecnologia poderá trazer não só para o ensino superior, mas para todo o sistema educacional. A coordenação é do professor Glauco Arbix, do Departamento de Sociologia da Faculdade de Filosofia, Letras e Ciências Humanas (FFLCH) da USP.
Conforme explica Fábio Cozman, professor da Escola Politécnica (Poli) da USP e diretor do Centro de Inteligência Artificial da USP (C4AI) – um dos participantes do evento – , o ChatGPT é um agente conversacional construído em torno de um modelo de linguagem chamado GPT. Por “modelo de linguagem” entenda-se uma função matemática que recebe sequências de palavras como entrada e produz outras sequências como saída, que também podem ser transformadas em novas sequências de palavras. Ainda segundo Cozman, esses modelos são construídos em duas etapas. Na primeira, coleta-se uma grande quantidade de textos. Em seguida, busca-se, por meio de um processo de otimização, a melhor função que gere, entre os textos coletados, as saídas pretendidas.
Financiado pela Microsoft e desenvolvido pela empresa OpenAI, sediada na Califórnia e criada por Elon Musk e Sam Altman, o ChatGPT foi aberto para o público em novembro de 2022 e causou sensação. Até o início de março, a plataforma registrava 120 milhões de usuários ativos e a alta demanda motivou a companhia a lançar uma versão paga do serviço, com assinatura de US$ 20 mensais. Desde então, o novo serviço vem alimentando tanto a euforia dos devotos da tecnologia quanto os horrores apocalípticos de quem teme a obsolescência da humanidade diante das máquinas. Entre os extremos, uma catarata de dúvidas a respeito dos impactos que a novidade trará (na verdade, já vem trazendo) em múltiplos setores da sociedade e a expectativa de uma revolução na maneira como lidamos com o conhecimento.
“É surpreendente que um processo dessa natureza consiga gerar artefatos capazes de traduzir textos, de responder perguntas, de gerar poesias”, afirma Cozman. “O desempenho de modelos de linguagem como o GPT de fato surpreendeu a própria comunidade acadêmica da área e gerou extraordinário interesse na sociedade.”
Para o professor Glauco Arbix, todo esse buzz também se justifica. A chegada do ChatGPT representa de fato um salto no desenvolvimento da inteligência artificial. Sendo uma plataforma extremamente amigável, que se comporta de um modo que parece muito inteligente e muito humano, a tecnologia inspirou grandes expectativas em áreas como saúde, indústria, marketing e educação.
“O impacto é generalizado, é um ponto de inflexão no ramo da IA, em especial em uma área chamada de processamento de linguagem natural”, explica Arbix. “Existem sistemas que estão evoluindo rapidamente, mas, de repente, esse novo recurso surgiu e se mostrou superior. Ele impressiona e abre novas possibilidades.”
Processamento de linguagem natural é um ramo das pesquisas em IA que investiga maneiras de as máquinas compreenderem e manipularem a linguagem humana. É o tipo de estudo que permite a existência de atendentes virtuais no Whatsapp ou assistentes que simulam conversações, como a Alexa. No caso do ChatGPT, seu sistema envolve ainda uma técnica chamada large language model (LLM), que se baseia em machine learning e deep learning, possibilitando o processamento de uma quantidade gigantesca de dados, vindos sobretudo, mas não apenas, da internet. A novidade utiliza também uma tecnologia chamada transformer – que corresponde ao T da sigla GPT –, um sistema transformador que gera textos a partir de treinamento.
“Ele se comporta como se fosse um sistema humano, apesar de não ser”, continua Arbix, que sublinha o potencial da nova tecnologia para a área da educação. “’E como é muito simples de usar, significa, do ponto de vista educacional, possibilidades imensas. É possível testar hipóteses, simular cenários, ampliar a busca por moléculas em um sistema bioquímico e organizar testes clínicos”, elenca. Dentre outras possibilidades já mapeadas e testadas por pesquisadores e usuários, a ferramenta pode ainda resumir livros em segundos, escrever breves dissertações e elaborar poemas ao gosto literário de seu interlocutor.
“O ChatGPT gera uma situação nova para todos nós, ele questiona nossos métodos de avaliação, de acompanhamento, de aula, de pedir exercícios e passar lição de casa”, diz Arbix. Mas o professor não enxerga o advento da tecnologia apenas no âmbito das preocupações e lembra também as possibilidades positivas que ela pode trazer. “Há um possível risco dos métodos tradicionais de avaliação, mas, ao mesmo tempo, um aluno que está com dificuldades poderia ter uma evolução mais rápida, por exemplo. É uma situação nova do ponto de vista educacional, que precisa ser bem tratada.”
“As novas tecnologias, cuja experimentação ainda não está madura, nos pregam surpresas. Teremos um período de aprendizagem. Vamos ter que aproveitar esse momento para repensar a maneira como damos aulas e avaliamos os alunos. Teremos que repensar um contato mais próximo entre professor e aluno.”
Talvez o principal medo que tomou conta dos educadores com a chegada do ChatGPT se refira à facilidade com que os estudantes podem deixar trabalhos, deveres de casa, redações e provas nas mãos da máquina. Uma lista de exercícios de matemática que representaria horas de dedicação ou partes inteiras de um estudo de história ou geografia, por exemplo, poderiam ser executadas em poucos minutos, com as perguntas certas. Com isso, os métodos básicos de avaliação como os conhecemos simplesmente virariam fumaça. Foi essa perspectiva de ruína educacional que levou o Departamento de Educação da cidade de Nova York a proibir o uso da tecnologia nas escolas, em uma tentativa de combater as “colas”.
Mas não foi só isso que trouxe preocupação. O plágio acadêmico é outra sombra projetada pela ferramenta. Como ainda não existe nenhum software que permita distinguir o que poderia ter sido escrito pela máquina e por um ser humano, a autoria dos textos fica comprometida. E mais: como o ChatGPT não cita as fontes das quais se utiliza para produzir suas respostas, é impossível, pelo menos por enquanto, identificar as referências usadas em seus textos. Apesar de a tecnologia ter tirado de algum lugar as informações que oferece, seus autores permanecem desconhecidos, o que gera não apenas questões problemáticas quanto a direitos autorais, mas permite também que dados falsos sejam apresentados como verdadeiros, sem possibilidade de checagem pelo próprio serviço.
Vale lembrar que, apesar de suas respostas serem coerentes e gramaticalmente bem formuladas, isso não significa que estejam sempre corretas. Vários testes feitos por usuários mostraram o serviço inventando pessoas, biografias e instituições, falhando na identificação de datas e sendo enganado por perguntas mais malandras. Não que isso invalide todo o projeto, já que a própria OpenAI alerta os usuários para a possibilidade de erros e a defasagem das informações. O que é preciso, conforme declara Arbix, é não perder de vista as limitações da novidade para o uso na educação.
“Você pode imaginar que um sistema dessa dimensão acabe gerando equívocos”, comenta. “O ChatGPT é um sistema que não tem compromisso com a verdade, seu objetivo não é esse. Suas respostas podem ser verdadeiras, mas também podem não ser. Porque ele faz conexões, usa estatística avançada para prever as palavras. É uma potencialização dos sistemas de tradução. A máquina não faz a mínima ideia do que está falando, ela não sabe, não pensa, não sente. Ela escreve uma sucessão de palavras transformadas pelos algoritmos. Está longe de ser um texto que tem as relações de um texto humano. O ChatGPT faz um trabalho que impressiona, mas ele ainda é uma máquina.”
Para além do plágio e da cola, o que está no radar do professor são as questões mais complexas que a chegada da tecnologia oferece. Como saber se o ChatGPT poderia ser considerado coautor de um trabalho acadêmico? Pode parecer coisa de ficção científica, mas esse é um tema que já entrou em pauta no exterior. No início deste ano a conceituada revista Nature rejeitou a possibilidade de coautoria, respondendo ao fato de outras publicações terem recebido artigos nos quais a tecnologia já apareceu creditada.
“Nós julgamos importante manter as relações de rigor que sustentam as bases do ensino acadêmico e científico, o que significa exigir dos alunos que digam em seus trabalhos e dos pesquisadores que registrem em suas bibliografias as partes nas quais o ChatGPT foi usado. Isso é uma medida de garantia da integridade”, adianta Arbix.
Para Virgilio Almeida, professor do Departamento de Ciências da Computação da Universidade Federal de Minas Gerais (UFMG), que também participará do evento promovido pelo IEA no dia 21, o seminário ocorre na hora certa, em sintonia com discussões que tomam contam de uma série de instituições de ensino superior ao redor do globo. “Se, por um lado, a ferramenta de IA pode trazer preocupações referentes a avaliações de alunos, ela pode também ser útil tanto no processo de aprendizado quanto de ensino. E pode ser uma boa assistente nas tarefas mais administrativas de pesquisa”, declara Almeida. “O importante é começar a definir regras e políticas para o uso do ChatGPT no ambiente acadêmico.”
Naomar de Almeida Filho, titular da Cátedra Alfredo Bosi de Educação Básica do IEA e professor do Instituto de Saúde Coletiva da Universidade Federal da Bahia (UFBA) – outro participante do evento -, chama a atenção para o impacto da chegada do ChatGPT na sala de aula tradicional. Para o acadêmico, é importante questionar as transformações que a nova ferramenta pode causar em modelos assentados no que chama de “processos anacrônicos de avaliação”.
“Na minha opinião, essa tecnologia vai simplesmente desafiar o velho modelo, obrigando a escola a enfrentar um dilema: assimilar ou interditar. E nem sou otimista”, reflete Almeida Filho. “Todas as ferramentas digitais para a metapresencialidade, equivocadamente chamada de EaD, e a imersão pedagógica mediada por tecnologias já estão disponíveis há mais de uma década. Nem por isso se verifica uma apropriação criativa mais generalizada no campo da educação em geral, menos ainda na educação superior. Infelizmente, acredito que nossos sistemas escolares adotarão restrições normativas e procedimentos regulatórios que se tornarão obstáculos ao uso pleno, criativo e crítico da IA na educação. Para que isso aconteça, será preciso desenvolver o que chamo de ‘competência tecnológica crítica’”.
Com tantas incertezas, os debates do dia 21 têm a pretensão de contribuir para a elaboração de um documento que ofereça diretrizes para a USP lidar com o ChatGPT, explica Arbix. A ideia é apresentar referências à comunidade acadêmica e padronizar a relação com a nova tecnologia, evitando que seu uso ou proibição – que o professor considera um equívoco – aconteça de forma individual.
“Nossa ideia é explicar os potenciais e limitações, cumprir nosso papel de educador”, afirma o docente. “Nossa preocupação é fazer a integração da tecnologia ao sistema de ensino, fazer a aprendizagem trabalhar junto à tecnologia, como forma de aumentar nossas capacidades. É humano mais máquina, não é o robô no lugar do trabalhador. É o robô trabalhando junto, aumento do rigor, resolvendo problemas, melhorando a segurança.”
Conforme relata Arbix, a ansiedade com a chegada de uma nova tecnologia não é novidade na história da educação e até mesmo o livro foi alvo de ataques quando da popularização da imprensa. “Nos séculos 16 e 17 várias universidades condenaram o uso do livro, dizendo que ele colocava nas mãos de pessoas não treinadas um conhecimento que poderia ser perigoso”, conta o docente. “Lembre-se também das máquinas de calcular, do laptop, do smartphone. Você não vai colocar o gênio de volta na lâmpada, ele já escapou. Você não pode deletar a tecnologia. Temos que aproveitar a oportunidade para repensar. Muita coisa pode mudar.”
Além de apresentar para o público o que é o ChatGPT, o evento que acontece no dia 21, das 9 às 17 horas (a programação completa e a lista de participantes podem ser vistas neste link) trará discussões sobre as possibilidades da nova ferramenta no ambiente universitário e as perspectivas de seu uso na educação em geral. A transmissão, ao vivo e sem necessidade de inscrição, será pelo site do IEA.
“Não temos nenhuma pretensão de resolver os problemas em um dia de debate. Temos a pretensão muito humilde de abrir os debates e chamar a atenção para uma tecnologia que tem um poder muito grande.”
Política de uso
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.