Como pesquisadores em educação, insistimos que o diálogo estabelecido entre a pedagogia e a tecnologia deve necessariamente compreender que as ações com a tecnologia na educação necessitam ser mobilizadas pela intencionalidade pedagógica e nunca ao contrário, como podem direcionar algumas demandas de mercado. Para tanto, é necessário que todas as atividades pedagógicas que se valem da tecnologia e mais especificamente da inteligência artificial generativa (IAG) sejam concebidas de modo a extrapolar o domínio técnico, ratificando a formação que almeja desenvolver plenamente a pessoa, prepará-la para a cidadania e para o mundo do trabalho.
Dessa forma, o debate e a promoção de princípios éticos, que devem acompanhar toda e qualquer utilização de IA na educação, são fundamentais. Isso inclui desde as escolhas técnicas e operacionais até o acompanhamento do uso dessa tecnologia em distintas frentes como educacional, econômica, cultural e social. Entendemos que a ética, mais do que qualquer regulação, será responsável por garantir o bom uso da IA na educação, pautando-se em princípios de justiça, inclusão, equidade, transparência e responsabilidade.
Além da reflexão sobre a ética, é importante que professores, gestores educacionais e demais profissionais que atuam na educação se apropriem do conhecimento sobre a utilização da IA no cenário brasileiro, para fazerem um uso consciente das ferramentas ou mesmo optarem por não utilizá-las em consonância com as necessidades e potencialidades locais, ainda que em diálogo com o contexto global. Assim, nosso GT nomeou alguns desafios e propôs recomendações essenciais para o uso responsável, por meio de uma Carta de Recomendações para o uso da Inteligência Artificial na Educação (IAED) e de um infográfico que apresenta nove desafios.
Tanto a carta de recomendações quanto o infográfico têm entre os principais objetivos promover o debate sobre o tema entre educadores, gestores, administradores e outros profissionais da educação, a fim de ampliar o conhecimento sobre o uso da IAED no contexto educativo brasileiro. Acredita-se que essa compreensão permitirá que se faça um uso informado dessas tecnologias, para que seja possível decidir conscientemente quando e como utilizá-las.
O primeiro desafio dos documentos elaborados aborda o risco que os sistemas de IA apresentam de exacerbar desigualdades e exclusões já presentes na sociedade, por diferentes fatores, inclusive pela dificuldade em representar grupos diversos e pelo uso de línguas dominantes. Por se ter a consciência de que a IA pode reforçar narrativas coloniais, étnico-raciais e sexistas, perpetuando a exclusão e limitando o pensamento crítico (Shams, Zowghi, Bano, 2023) é que se torna essencial supervisionar a linguagem para assegurar a representatividade linguística e sociocultural de todos os povos, com abordagens críticas e interculturais para desenvolver tecnologias educacionais inclusivas. Como podemos pensar em sistemas representativos sem a representação de grupos subalternizados nos campos STEAM (Ciência, Tecnologia, Engenharia, Artes e Matemática)? Uma das possibilidades é a integração de componentes de inclusão relacionados à diversidade nos currículos escolares, considerando aspectos como gênero, raça e etnia, de modo a assegurar perspectivas educacionais equitativas e representativas.
Outro desafio trata da dependência excessiva de plataformas digitais e a diminuição das interações pessoais em sala de aula e fora dela, que podem prejudicar o aprendizado. Adotar uma abordagem equilibrada, utilizando a tecnologia como um recurso complementar, é indicado, somado à formação contínua dos educadores sobre como integrar eficazmente a tecnologia em suas práticas pedagógicas.
É certo que o desconhecimento sobre IA pode levar a problemas éticos relacionados ao uso de dados dos estudantes, privacidade e discriminação algorítmica, comprometendo a confiança no sistema educacional (Salloum, 2024), por isso, compreendemos que um dos pilares para o uso adequado da IAG na educação é formar professores capazes de orientar a aprendizagem a partir de concepções pedagógicas e natureza educativa, considerando a oferta de um letramento em IA. Assim, espera-se que o professor tenha um pensamento crítico na interação com a IAG de modo a não se valer dos recursos com uma lógica de substituição, mas antes de complementaridade de interação. Se assim for, é possível que consiga, ainda que com todos os desafios que as dinâmicas de sala de aula impõem, equilibrar o uso de tecnologia com outras formas de aprender, garantindo o desenvolvimento de competências como pensamento crítico, criatividade, capacidade de pesquisa e interações colaborativas entre humanos e máquinas no trabalho pedagógico-didático com estudantes.
A formação de professores precisa contemplar os desafios da IA no trabalho pedagógico-didático e as questões éticas da IA no trabalho docente. Isso inclui desde a compreensão da IA generativa ao conhecimento das questões curriculares e pedagógicas como os usos de tecnologias de IA como chatbots para planejamento didático, usos na pesquisa, desenvolvimento de uma aprendizagem que considere a colaboração entre os sujeitos educativos e comunidade local das escolas, além do reconhecimento do desenvolvimento do algoritmo preditivo na interação entre os estudantes e as interfaces de IA utilizadas.
Conhecer os usos da IA nos alerta para o fato de que instituições de ensino e empresas desenvolvedoras de tecnologias de IA devem coletar apenas os dados estritamente necessários para fins educacionais específicos, estabelecendo políticas de privacidade transparentes e compreensíveis, além de implementar medidas de segurança para proteger os sistemas e dados contra possíveis ataques ou vazamentos.
Outro desafio apresentado é sobre a predominância de empresas privadas, especialmente dos EUA e do Norte Global no setor educacional, fornecendo produtos e serviços, limitando a transparência e a verificação da eficácia dessas tecnologias. Conforme dados do relatório AI in Education Market Size, Share & Trends Analysis Report (2022-2030), no ano de 2021, o mercado mundial de IA na educação foi avaliado em aproximadamente 1,82 bilhão de dólares, com previsão de crescimento anual de 36% no período de 2022 a 2030. Além disso, observou-se que a América do Norte teve uma expressiva participação de 35% nas tecnologias de IA no ano de 2021, destacando-se empresas no campo da educação como Amazon, IBM, Microsoft, Google, Pearson, entre outras.
Esse crescimento é impulsionado por fatores como o aumento dos investimentos em tecnologias de IA e educação tecnológica por entidades privadas. Nesse caso, recomenda-se que o governo apoie infraestruturas que reduzam a dependência de soluções privadas e visando fomentar pesquisas que articulem a IA com os objetivos educacionais. Políticas públicas devem garantir a avaliação independente e contínua da utilização de IA na educação para assegurar sua qualidade e alinhamento com os objetivos prioritariamente pedagógicos.
Estes são alguns dos desafios a serem observados e acompanhados na utilização responsável da IA, para que tanto professores quanto estudantes desenvolvam um olhar crítico e compreendam os potenciais e o funcionamento da IA, estando mais preparados para interagir com esse recurso de forma responsável e contribuir para a solução dos problemas da sociedade contemporânea, aproveitando suas potencialidades.
Desta forma, o conhecimento das possibilidades da IA no contexto educacional brasileiro requer o desenvolvimento da formação inicial e continuada dos educadores por meio de inclusão nos currículos, cursos de extensão, minicursos, oferta de pós-graduações, oficinas, workshops, e materiais de apoio com o objetivo de não apenas garantir o uso instrumental dos recursos de tecnologias, mas também promovendo entendimentos e reflexões sobre usos da IA na educação.
As orientações da Unesco (2021, 2022, 2023) e do Council of Europe (2022) apontam para a necessidade de garantir que o desenvolvimento tecnológico tenha o ser humano no gerenciamento dos processos e como agente principal nas tomadas de decisões. Espera-se que os resultados educacionais incluam habilidades para a resolução de problemas, integrando a colaboração humano-IA e a avaliação crítica do conteúdo gerado pela IA. Essas habilidades devem também abranger as novas exigências do mundo do trabalho tecnológico e profissões que ainda não existem, o que requer um compromisso com a aprendizagem ao longo da vida, flexibilidade curricular e a promoção de habilidades transversais como criatividade, empatia e adaptabilidade.
Por fim, ao abordar as questões relacionadas à IA na educação, não se pode ignorar os efeitos da divisão digital entre pobres e ricos e a necessidade de investimento nas escolas, especialmente nas escolas públicas. Sem políticas públicas governamentais sérias, que realmente venham a colaborar e proporcionar melhores condições educacionais para estudantes e professores, o fosso entre aqueles que possuem melhor acesso educacional e os que não têm continuará a se expandir.
Regulamentar não é tarefa fácil; é preciso compreender os problemas para legislar. Nesse contexto, seria adequado realizar audiências públicas para que os envolvidos possam participar abertamente do processo, apresentando não somente suas opiniões, mas também preocupações e sugestões em relação à adoção e uso da IA nas escolas. Isso fortaleceria a participação democrática, permitindo que as vozes de todos os envolvidos sejam ouvidas no processo de tomada de decisão.
O Grupo de Estudos IA Responsável, GT de Educação, segue investigando o cenário, refletindo sobre as possíveis soluções e divulgando algumas das ações por meio do site https://www.educamaisai.com.br/. Entendemos que é necessário vislumbrar as possibilidades da IA e agir em diferentes frentes para minimizar os desafios que esse novo contexto impõe aos setores e sujeitos da educação no País.
* Lívia Carolina Vieira, Márcia Azevedo Coelho e Paulo da Silva Quadros, pesquisadores da Cátedra Oscar Sala do Instituto de Estudos Avançados da USP
________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)
![[Diálogos na USP] Como as novas ferramentas incentivam e abrem mercado](https://jornal.usp.br/wp-content/uploads/2021/04/cartaz_Youtube_DIALOGOS_audiovisual-300x169.jpg)