Blog

O recente caso de repercussão envolvendo o uso do ChatGPT em uma ação judicial nos Estados Unidos resultou na punição e multa de um advogado. O motivo foi a invenção de precedentes de uma companhia aérea, levando o advogado a confessar ter feito uso da ferramenta como fonte para a pesquisa. 

O professor Juliano Maranhão, do Departamento de Filosofia e Teoria Geral do Direito da Faculdade de Direito da USP, faz parte da comissão da faculdade para definir uma política de governança para uso do ChatGPT por alunos e professores. “Com relação a inteligência artificial, uma das grandes questões é a transparência, tendo em vista preservar a confiança nas relações humanas”, aponta. 

Limites da ferramenta 

O professor explica que, em relação a questões técnicas, há um aviso para a checagem das informações geradas no final de mensagens do ChatGPT. Além disso, deve-se entender que o papel dessa ferramenta, diferentemente do Google, não é destinado a pesquisas, mas a conversas que simulam uma comunicação humana. Dessa forma, não há um compromisso com a verdade. 

Maranhão alerta sobre esse problema que tem se tornado recorrente: as chamadas alucinações do ChatGPT. “Por exemplo, eu coloquei para o GPT quem seria Juliano Maranhão e ele começou, a partir de informações disponíveis, dizer que é professor da Faculdade de Direito da USP, mas a partir daí criou uma série de informações”, exemplifica. Além disso, comenta que um dos grandes problemas é o excesso de confiança diante dessa ferramenta e que é necessário entender suas capacidades e limitações. 

Punição 

Além da punição com a multa, o professor avalia que, em um contexto brasileiro, a ocorrência também contaria com uma reação da Ordem dos Advogados do Brasil (OAB), uma vez que houve negligência no exercício da profissão. “É importante checar o precedente porque, se não for verificado com cuidado, pode-se utilizar e mencionar aquela decisão sem saber que a decisão pode trazer elementos que são contrários à sua tese”, discorre. 

Assim, o advogado foi punido pela falta de transparência no uso da ferramenta e, sobretudo, de maneira educativa para servir de exemplo diante de um caso como esse. Maranhão menciona uma possível relação com o crime de falsidade ideológica no Brasil, em que se traz informações falsas para o órgão público, porém, ainda não se trata tipicamente do assunto. 

“Acho que o tema traz uma preocupação, mas uma preocupação diante de uma nova tecnologia. Precisa mesmo haver uma difusão da cultura e um entendimento sobre seu funcionamento”, nota o professor. 

Política de governança do ChatGPT

Uma das questões principais, de acordo com Juliano Maranhão, é a transparência acerca dos usos dessas ferramentas, uma vez que é indispensável a preservação da confiança nas relações humanas. Além disso, esse valor da confiança cresce, na medida em que a presença de máquinas nas interações aumenta. 

“Por exemplo, nas faculdades o uso do ChatGPT gerou uma espécie de desconfiança entre professor e aluno, a ponto de professores deixarem de dar trabalhos preocupados se os alunos iriam usar a ferramenta para produzir o resultado”, ilustra o professor. Por outro lado, ele ainda comenta que a ferramenta pode ser usada de forma positiva no ponto de vista didático, desde que haja uma transparência sobre o seu uso.

Assim, uma das primeiras medidas tomadas pela comissão que busca uma política de governança para o ChatGPT é realizar um levantamento acerca da forma de seu uso na universidade. E, a partir dessa pesquisa, definir diretrizes e regras. “Não é o caso de proibir. Mas, se for utilizado, destacar que foi utilizado, como foi utilizado, porque isso traz, de novo, confiança na ferramenta que pode ser usada de forma positiva e não de forma maliciosa”, ressalta. 

Por fim, Maranhão afirma que a questão do uso do ChatGPT transborda o campo do Direito para diversos segmentos da sociedade. Todavia, nessa área existem alguns pontos mais sensíveis no que diz respeito a informações pessoais de clientes que serão compartilhadas com a IA, além dos direitos autorais de informações que podem estar presentes no texto gerado pela ferramenta.