A inteligência artificial ocupa, cada vez mais, o mercado de trabalho e no Direito isso não seria diferente. O Poder Judiciário tem se dedicado há muito tempo a utilizar a tecnologia como uma forma de apoio ao exercício da magistratura e à distribuição de Justiça. Desde 2017 existem normas que regulamentam o uso da inteligência artificial preditiva, no entanto, neste ano de 2024, dia 27 de setembro, aconteceu o último dia da audiência pública que debateu o uso de inteligências artificiais generativas no Judiciário. O debate aconteceu no Conselho Nacional de Justiça e nele foram apresentadas ponderações sobre os riscos e benefícios do uso da ferramenta pela Justiça. A audiência pública reuniu 60 especialistas nacionais e internacionais de várias áreas. Ana Carla Bliacheriene, professora da EACH (Escola de Ciências e Humanidades) , discorre sobre o uso de inteligências artificiais no Judiciário, ressaltando seus benefícios e suas qualidades.
Preocupações do uso da inteligência artificial
Com o avanço da tecnologia, o debate sobre a confiabilidade da IA entra em destaque. Existem diversos receios e medos quanto ao uso dessa inteligência. Ana Carla fala sobre essas preocupações. “Fala-se muito dos perigos da inteligência artificial generativa, principalmente em relação a uma eventual desumanização das relações entre as pessoas e, inclusive, desumanização do processo. Então, dentre as questões éticas que são referidas, há o problema de um eventual viés algorítmico, no sentido de que ele condicione uma decisão para um lado em detrimento de outro, sem a imparcialidade necessária do Poder Judiciário. Questões como proteção de dados pessoais também estão acolhidas no caráter ético. Transparência das IAs, aplicabilidade das IAs. Todos esses são pontos que geram medos, inseguranças do uso da IA, quando a gente está falando de IA generativa”, expõe.
Ana Carla desenvolveu uma teoria, em conjunto com o professor Luciano Araújo, que diferencia as IAs generativas passivas das IAs generativas ativas. Ela explica que as passivas são “modelos comerciais de chats nas suas diversas empresas, diversas marcas, e que trazem para nós uma excelente interface de exploração de documentos novos, de questões que ainda não conhecemos, como uma forma de perguntas e respostas” e que as ativas são aquelas que possibilitam o alcance de grandes bases de dados do Poder Judiciário, porém, “sem a necessidade de levantar pequenos grupos de documentos, sem a necessidade de especializar todos os servidores impromptus, o que gera uma variação de qualidade do resultado para o Poder Judiciário, algo que o aspecto ético reprova”.
Problemas na estruturação e aprendizado das IAs
O aprendizado das inteligências artificiais é baseado principalmente em um campo chamado aprendizado de máquina (machine learning), em que algoritmos analisam grandes quantidades de dados para identificar padrões e melhorar seu desempenho ao longo do tempo. A IA ajusta seus parâmetros internos (pesos) conforme processa os dados, buscando minimizar erros em suas previsões ou classificações. Com o tempo, ao processar mais informações, a IA se torna cada vez mais precisa, semelhante a como os humanos aprendem com a experiência. O aprendizado profundo (deep learning), uma subárea do aprendizado de máquina, usa redes neurais artificiais, inspiradas no funcionamento do cérebro, para resolver problemas mais complexos.
Porém, assim como os humanos erram, a inteligência artificial reproduz esses padrões e isso pode levar ao uso de estereótipos e preconceitos, praticados por humanos, para dentro da tecnologia. “Quando um algoritmo identifica um padrão, por exemplo, de racismo numa decisão, numa tendência a condenar pessoas pretas a penas maiores que pessoas brancas, ainda que se trate os dois de réus primários, estamos falando de um padrão identificado nas sentenças humanas que o algoritmo repete. E o que a gente faz para que esse algoritmo não repita esse tipo de decisão? Intervém no algoritmo treinando e indicando que esse tipo de diferenciação não é aceita no sistema jurídico. Como se faz isso com a cabeça de um magistrado humano? Eu não sei”, afirma a professora.
Capacitação profissional: IAs e nós
Outro benefício das inteligências artificiais é seu grande poder explicativo. Quando usado de maneira correta pode ser uma grande arma para a educação profissional de adultos. Ana Carla exemplifica benefícios do uso dessas inteligências em conjunto com a sociedade. “Um dos espaços em que a IA generativa pode ser utilizada com grande benefício é exatamente na educação profissional de adultos. Então ela pode ser utilizada como elemento de tutoria, elemento de trilhas de aprendizados a partir de interesses específicos ou necessidades específicas. Ela pode ser integrada às metodologias ativas de ensino e às técnicas da andragogia para o ensino adulto. E aí eu me refiro não só aos profissionais da área do Direito, mas a todos os profissionais que deverão se adaptar a essa nova fase da tecnologia e a essa nova fase das interações sociais e profissionais”, afirma.
A professora ainda ressalta que os GPTs devem trabalhar conosco e não apenas sozinhos. Para ela, o papel humano é insubstituível, porém, ele pode ser auxiliado com essas inteligências. “Nós não precisamos nos tornar programadores de IAs generativas, mas precisamos compreender os seus limites, as suas potencialidades, para que possamos entender aquilo que fazemos, o que podemos, de alguma forma, desenhar para que seja desenvolvido um modelo de GPT que nos apoie. A ideia é que a inteligência artificial generativa passe a ser um grande apoiador das nossas atividades profissionais no Poder Judiciário e não aquela que substitui o papel do juiz, o papel da Justiça e o papel do Poder Judiciário; compreender suas limitações e também os seus avanços e as suas potencialidades é uma competência importante”, informa.
O novo futuro?
É nítido que o mundo e a sociedade estão em constante mudança e as novas tecnologias se fazem presentes nesse meio. Em conclusão, Ana Carla Bliacheriene explica os lados positivos e negativos do uso dessa inteligência artificial e diz que cabe a nós nos adaptar ao novo futuro, porém, sempre mantendo o pensamento crítico e a capacidade de entender quando algo não é pertinente no contexto natural do ser humano.
“Todos nós nos adaptamos a sair do processo físico no Poder Judiciário ao processo digital. Essas transformações não acontecem sem nenhum tipo de incômodo ou dor, mas, normalmente, a história brasileira de inovação, inclusive dentro do Poder Judiciário, tem mostrado uma alta capacidade de adaptabilidade dos servidores e daqueles que atuam junto ao Poder Judiciário. E um terceiro elemento, que eu diria essencial para aqueles que estão se adaptando a essa nova transformação digital, é a abertura à inovação “, conclui a professora.
*Sob supervisão de Paulo Capuzzo e Cinderela Caldeira
Jornal da USP no Ar
Jornal da USP no Ar no ar veiculado pela Rede USP de Rádio, de segunda a sexta-feira: 1ª edição das 7h30 às 9h, com apresentação de Roxane Ré, e demais edições às 14h, 15h, 16h40 e às 18h. Em Ribeirão Preto, a edição regional vai ao ar das 12 às 12h30, com apresentação de Mel Vieira e Ferraz Junior. Você pode sintonizar a Rádio USP em São Paulo FM 93.7, em Ribeirão Preto FM 107.9, pela internet em www.jornal.usp.br ou pelo aplicativo do Jornal da USP no celular.
