Blog
Médico publica livro sobre os limites éticos da inteligência artificial na área da saúde
O uso de IA na criação de produtos de saúde demanda uma regulação específica em que transparência, responsabilidade, segurança e eficácia são elementos centrais
Saúde é um dos mais promissores campos de inovação em que a IA pode atuar – Foto: Freepik
A percepção do físico Stephen Hawking de que a inteligência artificial “será a melhor ou a pior coisa que já aconteceu à humanidade” resume as esperanças e preocupações que vêm com a transformação tecnológica em curso. De algoritmos que ajudam os médicos a fazer diagnósticos até a predição de quais tratamentos podem funcionar melhor com um determinado paciente, a saúde é talvez um dos mais promissores campos para a IA, mas parâmetros regulatórios se fazem urgentes.
Publicado pela Abeto, selo de não ficção do Grupo Aboio, o livro Inteligência Artificial e Saúde: Conexões éticas e regulatórias discute fundamentos e diretrizes para uma regulação da inteligência artificial (IA) na área. A obra é baseada na pesquisa de doutorado do autor, Daniel Dourado, médico, advogado e pesquisador no Centro de Estudos e Pesquisas de Direito Sanitário (Cepedisa) da USP. “É totalmente diferente entrar no mercado de saúde e entrar no mercado de tecnologia”, afirma Dourado. “O estado tem obrigação de regular produtos que estão na saúde”.
Por essa obrigação, ele lembra que “se o produto é para uso clínico, passa a ser um dispositivo médico, um produto de saúde; e a saúde tem fundamentos próprios”. Assim, estabelece três desses fundamentos: a privacidade dos que alimentam os dados usados para treinar a IA, a ética específica para o desenvolvimento desses produtos (uma mistura de ética para IA e bioética) e os direitos humanos que estabelecem a saúde como direito fundamental.
“Se você quiser pegar três pedaços de madeira, emendar com um prego, serrar e colocar para vender como uma cadeira, você pode, mas se você fala que ela alivia dor nas costas, dor lombar, vai ter que registrar esse produto”, exemplifica.
Para cumprir esses fundamentos, por sua vez, ele elenca três elementos centrais para pensá-los: a transparência de como os dados da IA são utilizados, a responsabilidade no uso dos dados, além de, principalmente, segurança e eficácia dos produtos. Dentro desse último, ele propõe o conceito de equidade ou justiça, pela preocupação dos modelos desenvolvidos, por seus vieses “só acertarem para homem branco ou [norte] americano”, ou seja, não serem seguros para outras populações.
Daniel Dourado Foto: Reprodução / Arquivo pessoal de Daniel
Avanço das discussões
O uso de IA na saúde avança no mundo todo e tem resultados promissores para a análise de exames e predição de doenças hereditárias. Apesar disso, o desenvolvimento de regulação específica para área ainda caminha a passos curtos. Esse atraso tem levado a discussões recentes no mundo, principalmente na Inglaterra, sobre a criação de sandboxes.
O conceito de sandbox é um teste em que a equipe vai avaliar o sistema com os dados que possui em situações reais, mas sem alterar a conduta dos profissionais de saúde. “Por exemplo, se o modelo sugere uma dose diferente de medicamento, o profissional é informado, mas não precisa seguir a recomendação; ele apenas observa o que o modelo indica e, com o tempo, esses dados são comparados para avaliar se o sistema é seguro e se poderia ser usado na prática”, explica Daniel Dourado.
Capa: reprodução Aboio
Ele ressalta que a criação desses modelos evita ações judiciais que poderiam atrasar ou complicar a regulação desses produtos. Ele afirma que “é muito melhor ter uma regulação que se faz pelo debate da sociedade e é fundamentada no direito administrativo” do que por ações judiciais fundamentadas em casos particulares.
Mais informações: e-mail dadourado@gmail.com, com Daniel Dourado. O livro está disponível para compra no site da editora
*Estagiário com orientação de Luiza Caires
Política de uso
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.
A reprodução de matérias e fotografias é livre mediante a citação do Jornal da USP e do autor. No caso dos arquivos de áudio, deverão constar dos créditos a Rádio USP e, em sendo explicitados, os autores. Para uso de arquivos de vídeo, esses créditos deverão mencionar a TV USP e, caso estejam explicitados, os autores. Fotos devem ser creditadas como USP Imagens e o nome do fotógrafo.