Uma equipa de pesquisa da Universidade de Pittsburgh realizou um estudo sobre mamografias, onde desenvolveu um programa de computador que manipulava imagens de diagnóstico do cancro da mama e fazia com que fossem adicionados sinais de cancro a mamografias que não os tinham, e que fossem removidos sinais de cancro a mamografias que os apresentavam.
Publicado na revista Nature Communications, o objetivo é alertar para que até os hospitais, as organizações de saúde e os especialistas que projetam programas de inteligência artificial (IA) podem ser atacados por hackers, que alteram exames médicos, já que os programas de IA e radiologistas foram enganados pelos falsos diagnósticos.
Os investigadores transmitiram as imagens adulteradas a um programa de inteligência artificial, treinado para detetar sinais de cancro da mama, e pediram a cinco radiologistas humanos que dissessem se as imagens eram verdadeiras ou falsas. 70% das imagens manipuladas enganaram o programa, que disse que as imagens às quais foram retirados os sinais de cancro, não tinham cancro, e as imagens às quais foram adicionados sinais de cancro, tinham cancro. Por outro lado, nem todos os radiologistas foram enganados, mas entre 29% a 71% das imagens falsas foram identificadas por eles como verdadeiras.
Esta manipulação pode levar a um diagnóstico incorreto e pôr em causa a vida de um paciente que esteja com cancro e não seja tratado, ou de um paciente que esteja livre do cancro e continue ou comece a ser, erradamente, tratado. Os hackers demonstram interesse neste tipo de ataques quando pretendem atingir um paciente específico, quando querem obter seguros, indeminizações ou subsídios através da alteração dos próprios dados de saúde, ou até mesmo quando pretendem obter o pagamento de um montante, como resgate, por parte da instituição.
Além disso, investigadores de segurança já demonstraram que os hackers conseguem invadir remotamente bombas de insulina conectadas à internet e administrar doses perigosas do medicamento, bem como adicionar ou remover evidências do cancro do pulmão em tomografias computorizadas que, em 2019, também enganaram radiologistas humanos e programas de inteligência artificial.
Segundo a publicação The Verge, o autor do estudo, Shandong Wu, professor associado de radiologia, informática biomédica e bioengenharia, disse em comunicado que “os modelos devem ter imagens manipuladas durante o treino para os ensinar a localizar imagens falsas” e que “também os radiologistas precisam de saber identificá-las”.
