Blog

Glauco Arbix abre sua coluna contando o caso de um jovem de Orlando, de 14 anos, chamado Sewell Setzer, que se apegou profunda e emocionalmente por uma chatbot a ponto de cometer suicídio, o que  provocou um enorme debate, principalmente porque a mãe do jovem abriu um processo contra a empresa e responsabilizou a Character IA pela morte do filho. A verdade é que a disseminação nas plataformas de chatbots de amizade cresce de modo acelerado, mesmo aqui, no Brasil. Mas o mais grave, segundo Arbix, é que estudos mostram que esses apps são perigosos para usuários deprimidos e cronicamente solitários, para pessoas que vivem mudanças rápidas e profundas como os adolescentes. “Na realidade, esses chatbots  alimentam negócios especializados e relacionamentos artificiais, é uma indústria em expansão não regulamentada, que oferece assinatura mensal por R$ 50 e permite a criação de personas, de namorados, namoradas que dialogam como se fossem humanos sobre temas como amor, a rejeição, a incompreensão e a solidão.”

Para o colunista, a  tragédia que envolveu a morte desse jovem acende uma luz de alerta para os riscos que essas tecnologias representam para a saúde mental. “Será que cabe aos humanos encarar com naturalidade relacionamentos desse tipo? É possível manter uma amizade verdadeira com companheiros artificiais? Será que seremos menos humanos se nos apaixonarmos por algoritmos? Eu tendo a acreditar que sim, não é porque não se pode amar o que não é humano, todos nós já nos apaixonamos por um gato, uma boneca, um ursinho de pelúcia, por nosso país, pela liberdade, mas é porque, acredito, a paixão por um ou uma chatbot tende a robotizar a amizade e a empatia, tende a esvaziar e reduzir a multiplicidade de sentimentos, muitas vezes contraditórios, que marcam o amor […] cada vez mais abraçamos o conforto da não humanidade e nos afastamos da complexidade, da incerteza e dos riscos que marcam o relacionamento humano”, diz Arbix. “A amizade rápida das máquinas pode fornecer solução fácil para a solidão, mas às custas de arruinar nosso coração.”

Arbix entende ainda que o Poder Público tem obrigação de proteger os jovens, “especialmente as crianças, aqueles com sinais de depressão, de ansiedade. Se notar algo do tipo em seu filho ou filha, procure profissionais, as autoridades e órgãos reguladores podem oferecer mais orientação sobre o uso de aplicativos baseados em inteligência artificial. Hoje, sem regras claras, as empresas podem subestimar os problemas, uma vez que, atualmente, no mundo todo, essas empresas são livres para ignorar os riscos, mesmo quando têm consciência sobre eles”.

.