A integração da IA na prática clínica é muito desafiadora, especialmente em radiologia. Embora a IA tenha provado melhorar a precisão do diagnóstico, a sua natureza de “caixa preta” muitas vezes corrói a confiança e a aceitação entre os médicos. Os atuais sistemas de apoio à decisão clínica (CDSSs) podem não ser interpretáveis ou usar métodos como mapas de significância e valores de Shapley, que não fornecem aos médicos uma maneira confiável de verificar de forma independente as previsões geradas pela IA. Esta lacuna é importante, pois limita o potencial da IA no diagnóstico médico e aumenta os riscos envolvidos na dependência excessiva de resultados de IA potencialmente imprecisos. Abordar esta questão requer novas soluções que cubram a falta de confiança e dotem os profissionais de saúde com as ferramentas certas para avaliar a qualidade das decisões de IA em áreas difíceis como os cuidados de saúde.
Técnicas descritivas em IA médica, como mapas inteligentes, inferência virtual e descrições de vizinhos mais próximos, foram desenvolvidas para tornar os resultados da IA mais interpretáveis. O principal objetivo da estratégia é explicar como a IA faz previsões, equipando assim os médicos com informações úteis para compreender o processo de tomada de decisão por trás das previsões. No entanto, existem limitações. Um dos maiores desafios é a dependência excessiva da IA. Os médicos são frequentemente influenciados pelas explicações potencialmente convincentes, mas imprecisas, apresentadas pela IA.
Os vieses conceituais, como o viés de confirmação, tornam esse problema mais difícil, muitas vezes levando a decisões incorretas. Mais importante ainda, esses métodos não possuem métodos de validação fortes, o que faria os médicos confiarem na confiabilidade das previsões da IA. Essas limitações ressaltam a necessidade de formas mais descritivas de incluir recursos que suportem a autenticação e aprimorem as interações humanas de IA.
Para resolver essas limitações, pesquisadores da Universidade da Califórnia, Los Angeles UCLA, introduziram um novo método chamado Recuperação de 2 fatores (2FR). Este sistema inclui validação na tomada de decisões de IA, permitindo que os médicos avancem nas previsões de IA com exemplos de casos com rótulos semelhantes. O design envolve a apresentação de um diagnóstico gerado por IA próximo a imagens representativas de um banco de dados rotulado. Esses recursos visuais permitem que os médicos comparem as amostras devolvidas com a patologia que está sendo revisada, apoiando a recuperação do diagnóstico e a confirmação da decisão. Este novo design reduz a dependência e incentiva processos de diagnóstico colaborativos, tornando os médicos mais envolvidos na validação dos resultados gerados pela IA. O desenvolvimento melhora a confiança e a precisão e, portanto, é um passo significativo na integração perfeita da inteligência artificial na prática clínica.
O estudo testou o 2FR em um ensaio controlado com 69 terapeutas de diversas especialidades e níveis de experiência. Recebeu a radiografia de tórax do NIH e continha imagens marcadas com as patologias de cardiomegalia, pneumotórax, massa/nódulo e derrame. Esta tarefa foi randomizada em quatro modos diferentes: apenas previsões de IA, previsões de IA com mapas surpresa, previsões de IA com 2FR e sem ajuda de IA. Utilizou condições de dificuldade variada, como facilidade e dificuldade, para medir o efeito da dificuldade da tarefa. A precisão e a confiança do diagnóstico foram as duas métricas principais, e as análises foram realizadas usando modelos de efeitos mistos controlando a experiência clínica e a precisão da IA. Este projeto é robusto o suficiente para fornecer um teste completo do desempenho do método.
Os resultados mostram que o 2FR melhora significativamente a precisão do diagnóstico dos sistemas de tomada de decisão assistidos por IA. Especificamente, quando as previsões feitas pela IA são precisas, a taxa de precisão alcançada com 2FR atingiu 70%, muito superior à dos métodos baseados em saliência (65%), apenas previsões de IA (64%) e sem casos de apoio. de IA (45%). Este método foi especialmente útil para médicos menos confiantes, pois obtiveram melhorias significativas em comparação com outros métodos. Os níveis de experiência dos radiologistas também melhoraram significativamente com o uso do 2FR e, portanto, mostram alta precisão, independentemente dos níveis de experiência. No entanto, todos os métodos diminuíram de forma semelhante sempre que as previsões da IA estavam erradas. Isso mostra que os médicos confiam mais em suas habilidades nesses momentos. Assim, estes resultados mostram a capacidade do 2FR em melhorar a confiança e o desempenho do pipeline no diagnóstico, especialmente se a previsão da IA for precisa.
Esta inovação também sublinha o enorme potencial de transformação de métodos baseados em validação em sistemas de apoio à decisão de IA. Apesar das limitações causadas pelos métodos tradicionais de interpretação, o 2FR permite que os médicos confirmem com precisão as previsões de IA, melhorando ainda mais a precisão e a confiança. O sistema também alivia a carga de trabalho mental e aumenta a confiança na tomada de decisões em radiologia assistida por IA. Tais métodos integrados na interação entre humanos e IA proporcionarão uma melhoria na utilização melhor e mais segura da implantação de IA nos cuidados de saúde. Em última análise, isso pode ser usado para avaliar o impacto a longo prazo nas técnicas de diagnóstico, no treinamento do médico e nos resultados dos pacientes. A próxima geração de sistemas de IA com 2FRs tem potencial para contribuir significativamente para o desenvolvimento da medicina com alta confiabilidade e precisão.
Confira Papel. Todo o crédito deste estudo vai para os pesquisadores deste projeto. Além disso, não se esqueça de nos seguir Twitter e junte-se ao nosso Estação telefônica de novo LinkedIn Gracima. Se você gosta do nosso trabalho, você vai gostar do nosso jornal.. Não se esqueça de participar do nosso SubReddit de 60k + ML.
🚨 [Partner with us]: 'Próxima revista/relatório – IA de código aberto na manufatura'
Aswin AK é consultor da MarkTechPost. Ele está cursando seu diploma duplo no Instituto Indiano de Tecnologia, Kharagpur. Ele é apaixonado por ciência de dados e aprendizado de máquina, o que traz consigo uma sólida formação acadêmica e experiência prática na solução de desafios de domínio da vida real.
🚨🚨 WEBINAR DE IA GRATUITO: 'Acelere suas aplicações LLM com deepset e Haystack' (promovido)
