Entretanto, o uso da IA no ensino superior também levanta importantes questões éticas, que devem ser cuidadosamente examinadas para garantir que essa ferramenta seja desenvolvida e aplicada de maneira justa e inclusiva. Dentre os tópicos emergentes de debate, destacam-se a necessidade de transparência nos algoritmos, a proteção dos dados pessoais dos usuários e a garantia de que essas tecnologias não reforcem preconceitos e desigualdades preexistentes.
O Art. 3º da Lei Brasileira de Inclusão da Pessoa com Deficiência (LBI) define acessibilidade como a condição que permite às pessoas com deficiência ou mobilidade reduzida utilizarem, com segurança e autonomia, espaços, serviços, transportes e tecnologias, tanto públicos quanto privados, em áreas urbanas e rurais. No que tange às instituições de ensino, a inclusão implica a adaptação dos processos educacionais para atender às necessidades de todos os estudantes, respeitando suas singularidades.
A perspectiva de inclusão das pessoas com necessidades especiais é relativamente recente, tendo se consolidado a partir da década de 1990. Essa abordagem é baseada na ideia de que o convívio social é um direito de todos e que a aprendizagem ocorre por meio da interação entre o indivíduo e a sociedade. Além disso, representa um caminho para construir uma sociedade mais justa e acolhedora, em parceria com aqueles que historicamente foram oprimidos e excluídos.
Embora a IA ofereça inúmeras oportunidades para promover a acessibilidade e inclusão, também apresenta riscos significativos. Um dos principais é a perpetuação de preconceitos, uma vez que os algoritmos de IA são frequentemente treinados com base em dados históricos. Por exemplo, ferramentas de IA para recrutamento de alunos ou distribuição de bolsas podem, inadvertidamente, excluir candidatos de determinados grupos, se baseadas em padrões de dados enviesados. Outro risco relevante é em relação aos dados sensíveis, descritos no Art. 5º da Lei Geral de Proteção de Dados (LGPD), pois o uso indevido desses dados para uma sequência de instruções predefinidas, e que são apresentadas para uma IA realizar uma tarefa, pode gerar uma discriminação ainda maior.
A inteligência artificial é um campo de estudo dedicado à criação de máquinas inteligentes e autônomas e tem o potencial de transformar profundamente a sociedade, tanto de maneira positiva quanto negativa. Os benefícios da IA na promoção de um ambiente inclusivo no ensino superior são significativos, ferramentas como tradutores automáticos e softwares de reconhecimento de voz têm se mostrado eficazes no suporte a alunos com deficiência auditiva ou visual. Além disso, a IA pode ser utilizada para desenvolver plataformas de aprendizado adaptativo, que personalizam o conteúdo de acordo com as necessidades individuais dos estudantes, aumentando o aprendizado acadêmico, e para criar materiais educativos acessíveis.
Em termos de implantação, gerenciamento e monitoramento da inclusão nas instituições de ensino superior, a IA pode ser usada para identificar padrões em grandes volumes de dados de alunos, fornecendo percepções valiosas para a tomada de decisões em nível institucional, como na formulação de políticas educacionais e no planejamento estratégico.
Apesar das vantagens potenciais, o desenvolvimento e a aplicação de uma IA verdadeiramente responsável no ensino superior enfrentam vários desafios éticos. Um dos maiores problemas é garantir que a tecnologia não perpetue desigualdades existentes, mas sim atue como uma ferramenta de mitigação dessas disparidades. Para alcançar esse objetivo, é fundamental que as instituições de ensino implementem políticas de transparência e explicabilidade em seus algoritmos, garantindo que toda a comunidade acadêmica entenda o processo de tomada de decisões e tenha a possibilidade de contestá-las, quando necessário.
Além disso, é importante que haja uma abordagem inclusiva no desenvolvimento da tecnologia, garantindo que as necessidades de diferentes grupos sejam consideradas desde o início. Abordagens como a IA explicável (XAI) têm sido sugeridas como solução para promover a inclusão e a acessibilidade, pois visa tornar os algoritmos mais compreensíveis e adaptáveis, respeitando a diversidade de perfis dos usuários.
Outro conceito essencial que deve ser incluído é o de justiça algorítmica, que envolve a necessidade de revisar continuamente os dados e algoritmos para identificar e corrigir possíveis vieses discriminatórios. No campo da acessibilidade, isso significa, por exemplo, garantir que os algoritmos de reconhecimento de fala funcionem bem para diferentes tipos de vozes, sotaques e padrões de fala, e que os algoritmos de recomendação de conteúdo não discriminem certos grupos de estudantes com base em suas características pessoais.
O uso responsável da inteligência artificial para promover a acessibilidade e a inclusão no ensino superior é uma promessa que ainda depende de diversos avanços tecnológicos, regulamentares e éticos. Embora os benefícios sejam claros, o desenvolvimento de uma IA verdadeiramente inclusiva exige um compromisso contínuo com a justiça, transparência e responsabilidade. O maior desafio reside em garantir que o progresso tecnológico não aconteça à custa de princípios fundamentais de equidade e inclusão.
É essencial que as instituições de ensino superior e os desenvolvedores de tecnologia adotem uma abordagem proativa na identificação e mitigação de riscos, ao mesmo tempo em que explorem as oportunidades que a IA oferece para transformar positivamente a educação. A regulamentação adequada, a pesquisa contínua e o diálogo entre desenvolvedores, educadores, estudantes e formuladores de políticas públicas são passos cruciais para garantir que a inteligência artificial seja verdadeiramente uma ferramenta de inclusão no ensino superior.
________________
(As opiniões expressas nos artigos publicados no Jornal da USP são de inteira responsabilidade de seus autores e não refletem opiniões do veículo nem posições institucionais da Universidade de São Paulo. Acesse aqui nossos parâmetros editoriais para artigos de opinião.)
