.
Com o aumento do uso de inteligência artificial (IA) na medicina, sistemas de análise de imagens médicas têm se tornado alvos de ataques cibernéticos, comprometendo diagnósticos e colocando em risco a saúde de pacientes. Para enfrentar esse desafio, o doutorando Erikson Júlio de Aguiar, do Instituto de Ciências Matemáticas e de Computação (ICMC) da USP, em São Carlos, desenvolveu o Radar-Mix, uma ferramenta que detecta e analisa ataques externos em sistemas de IA. O artigo que descreve como a solução foi criada e os resultados apresentados, intitulado Radar-Mix: How to Uncover Adversarial Attacks in Medical Image Analysis through Explainability, foi premiado como Best Student Paper no 37ºSimpósio Internacional de Sistemas Médicos Baseados em Computador (CBMS), realizado de 26 a 28 de junho, em Guadalajara, no México.
De acordo com Erikson, ataques hackers inserem pequenas alterações ou ruídos em imagens médicas, como as obtidas por raios-X e ressonância magnética, para confundir os sistemas e levar a diagnósticos errados. O Radar-Mix foi criado exatamente para mitigar esse tipo de ameaça, fornecendo uma análise detalhada dos ataques. “A inteligência artificial tem sido uma grande aliada no diagnóstico de doenças, mas, ao mesmo tempo, hackers têm encontrado formas de comprometer esses sistemas. O Radar-Mix é uma ferramenta que permite não só detectar esses ataques, mas também entender como e onde eles acontecem, o que é crucial para garantir a segurança dos diagnósticos”, explica Erikson.
O modelo usa ferramentas avançadas, como Grad-CAM e Shap, que ajudam a mostrar, de forma visual, as partes de uma imagem que foram alteradas por um ataque. Esse detalhamento torna a proteção mais eficiente, pois o Radar-Mix não só detecta se o sistema foi atacado, mas também explica onde e como o ataque aconteceu, oferecendo uma análise mais completa se comparado a outras soluções já existentes.
Reconhecimento internacional
A premiação de Best Student Paper no CBMS 2024 é um reconhecimento do trabalho desenvolvido por Erikson sob a orientação dos professores Agma Traina, que é sua orientadora no doutorado, e Caetano Traina, ambos do ICMC. “Ver o trabalho desenvolvido pelo Erikson ser premiado em um dos principais fóruns mundiais de computação e medicina mostra a qualidade do que estamos desenvolvendo aqui no ICMC”, comenta a professora Agma.
Segundo a docente, o Radar-Mix tem potencial para ser implementado diretamente em sistemas médicos, protegendo hospitais e centros de diagnóstico contra ataques cibernéticos que possam comprometer o tratamento dos pacientes. “O Radar-Mix foi desenvolvido de forma modular, facilitando sua implementação e adaptação em diferentes contextos. A interposição foi estruturada como um filtro entre o acesso aos serviços e servidores, oferecendo uma camada adicional de segurança e controle”, explica.
Essa proteção é fundamental, especialmente em um contexto em que o número de ataques cibernéticos a instituições de saúde tem crescido. “Nos Estados Unidos, por exemplo, um ataque pode afetar a reputação de um hospital e levar a grandes prejuízos financeiros e operacionais. O Radar-Mix ajuda a manter a confiança nesses sistemas de IA, o que é crucial tanto para os médicos quanto para os pacientes“, complementa o doutorando.
O Radar-Mix está disponível para uso, com o código-fonte aberto para reprodução em outras pesquisas ou para receber melhorias. Interessados podem acessar e contribuir por meio deste link.
Próximos passos
Com o reconhecimento no CBMS 2024, Erikson continua a expandir suas pesquisas e desenvolveu um novo artigo, mostrando uma nova perspectiva do Radar-Mix, e que será apresentado no Spie Medical Imaging (Sociedade Internacional de Óptica e Fotônica), em fevereiro de 2025, na Califórnia, Estados Unidos. Além disso, o doutorando está colaborando com especialistas da Universidade da Flórida, onde realiza um estágio sanduíche de um ano, financiado pela Fundação de Amparo à Pesquisa do Estado de São Paulo (Fapesp).
A professora Agma Traina também reforça a importância dessa experiência internacional: “O Erikson está trabalhando com grandes nomes na área de segurança em IA e essa vivência no exterior vai contribuir muito para a carreira dele, que é um aluno extremamente dedicado. Tenho certeza de que essa premiação é apenas o início de uma trajetória acadêmica brilhante”.
Acesse o artigo premiado clicando aqui. Acesse o GitHub do projeto.
.
*Texto da Assessoria de Comunicação do ICMC
