Um estudo revela a luta da IA com a contaminação de tecidos em diagnósticos médicos, um problema facilmente gerido por patologistas humanos, sublinhando a importância da experiência humana nos cuidados de saúde, apesar dos avanços na tecnologia de IA.
A contaminação de amostras de tecidos pode enganar os modelos de IA, impedindo-os de fazer diagnósticos precisos em situações do mundo real.
Os patologistas humanos passam por um treinamento rigoroso para identificar casos em que amostras de tecido de um paciente são acidentalmente colocadas em lâminas de microscópio destinadas a outro paciente, um erro conhecido como contaminação de tecido. No entanto, este tipo de contaminação representa um desafio significativo para os modelos de inteligência artificial (IA), que são normalmente desenvolvidos em ambientes limpos e controlados, de acordo com um estudo recente da Northwestern Medicine.
“Treinamos IAs para diferenciar ‘A’ de ‘B’ em um ambiente artificial muito limpo, mas, na vida real, a IA verá uma variedade de materiais nos quais não treinou. Quando isso acontece, erros podem acontecer”, disse o autor correspondente, Dr. Jeffery Goldstein, diretor de patologia perinatal e professor assistente de patologia perinatal e autópsia no Universidade do Noroeste Escola de Medicina Feinberg.
“Nossas descobertas servem como um lembrete de que a IA que funciona incrivelmente bem no laboratório pode cair de cara no mundo real. Os pacientes devem continuar a esperar que um especialista humano tome a decisão final sobre os diagnósticos feitos em biópsias e outras amostras de tecidos. Os patologistas temem – e as empresas de IA esperam – que os computadores venham atrás dos nossos empregos. Ainda não.”
No novo estudo, os cientistas treinaram três modelos de IA para escanear lâminas microscópicas de tecido da placenta para (1) detectar danos nos vasos sanguíneos; (2) estimar a idade gestacional; e (3) classificar lesões macroscópicas. Eles treinaram um quarto modelo de IA para detectar câncer de próstata em tecidos coletados em biópsias por agulha. Quando os modelos ficaram prontos, os cientistas expuseram cada um deles a pequenas porções de tecido contaminante (por exemplo, bexiga, sangue, etc.) que foram amostradas aleatoriamente em outras lâminas. Finalmente, testaram as reações das IAs.
Cada um dos quatro modelos de IA prestou demasiada atenção à contaminação dos tecidos, o que resultou em erros no diagnóstico ou detecção de danos nos vasos, idade gestacional, lesões e cancro da próstata, concluiu o estudo.
As descobertas foram publicadas recentemente na revista Patologia Moderna. Ele marca o primeiro estudo a examinar como a contaminação de tecidos afeta os modelos de aprendizado de máquina.
‘Para um humano, chamaríamos isso de distração, como um objeto brilhante e brilhante’
A contaminação de tecidos é um problema bem conhecido para os patologistas, mas muitas vezes é uma surpresa para pesquisadores ou médicos não patologistas, aponta o estudo. Um patologista que examina de 80 a 100 lâminas por dia pode esperar ver de duas a três com contaminantes, mas foi treinado para ignorá-los.
Quando os humanos examinam tecidos em lâminas, eles só conseguem observar um campo limitado dentro do microscópio, depois passar para um novo campo e assim por diante. Depois de examinar toda a amostra, eles combinam todas as informações coletadas para fazer um diagnóstico. Um modelo de IA funciona da mesma maneira, mas o estudo descobriu que a IA era facilmente enganada por contaminantes.
“O modelo de IA tem que decidir em quais peças prestar atenção e quais não, e isso é soma zero”, disse Goldstein. “Se estiver prestando atenção aos contaminantes dos tecidos, estará prestando menos atenção ao tecido do paciente que está sendo examinado. Para um humano, chamaríamos isso de distração, como um objeto brilhante e brilhante.”
Os modelos de IA deram um alto nível de atenção aos contaminantes, indicando uma incapacidade de codificar impurezas biológicas. Os profissionais devem trabalhar para quantificar e melhorar este problema, disseram os autores do estudo.
Cientistas anteriores de IA em patologia estudaram diferentes tipos de artefatos de imagem, como borrões, detritos na lâmina, dobras ou bolhas, mas esta é a primeira vez que examinaram a contaminação de tecidos.
‘Confiante de que a IA para placenta é viável’
Patologistas perinatais, como Goldstein, são incrivelmente raros. Na verdade, existem apenas 50 a 100 em todos os EUA, a maioria localizada em grandes centros académicos, disse Goldstein. Isto significa que apenas 5% das placentas nos EUA são examinadas por especialistas humanos. Em todo o mundo, esse número é ainda menor. Incorporar este tipo de conhecimento em modelos de IA pode ajudar os patologistas de todo o país a fazer o seu trabalho melhor e mais rápido, disse Goldstein.
“Na verdade, estou muito entusiasmado com o quão bem fomos capazes de construir os modelos e como eles funcionaram antes de quebrá-los deliberadamente para o estudo”, disse Goldstein. “Nossos resultados me deixam confiante de que as avaliações de IA da placenta são viáveis. Enfrentamos um problema do mundo real, mas atingir esse obstáculo significa que estamos no caminho certo para integrar melhor o uso de aprendizado de máquina em patologia.”
Referência: “A contaminação de tecidos desafia a credibilidade dos modelos de aprendizado de máquina na patologia digital do mundo real” por Ismail Irmakci, Ramin Nateghi, Rujoi Zhou, Mariavittoria Vescovo, Madeline Saft, Ashley E. Ross, Ximing J. Yang, Lee AD Cooper e Jeffery A ^ Goldstein, 6 de janeiro de 2024, Patologia Moderna.
DOI: 10.1016/j.modpat.2024.100422
O estudo foi financiado pelo Instituto Nacional de Imagens Biomédicas e Bioengenharia, pelo Centro Nacional para o Avanço das Ciências Translacionais (NCATS), pelo Fundo da Fundação Walder para Reter Cientistas Clínicos e pelo Departamento de Saúde e Serviços Humanos.
