Campo de Diagnóstico. IA e Diagnóstico: Viés de Automação, Viés de Espectro e Falácia da Taxa Base

Introdução

Num artigo recente publicado na revista “Diagnosis” (1), Weissman e Zwaan definem o conceito de “campo de diagnóstico” como os diferentes diagnósticos que teoricamente podemos encontrar num ambiente clínico, seja uma área geográfica ou uma comunidade.

Os autores pretendem destacar a importância deste conceito em relação à inteligência artificial (IA) quando utilizada como auxiliar de diagnóstico clínico. Definiram outros conceitos como “campo considerado”, que é o conjunto de diagnósticos propostos pelos médicos e pelos doentes durante o encontro diagnóstico, e “campo observado”, como aqueles diagnósticos registados num determinado momento, sejam eles correctos ou incorrectos. O objetivo dos autores ao definir estes conceitos é fornecer orientação sobre a importância da composição do campo de diagnóstico no treino de uma IA como auxiliar de diagnóstico e, ao mesmo tempo, melhorar quaisquer vieses relacionados com o processo de raciocínio clínico do profissional derivados desta formação “incorreta” da ferramenta de IA naquele ambiente específico. Têm como objetivo mostrar a interação direta entre a ferramenta e os potenciais enviesamentos associados durante o processo de raciocínio clínico.

IA, Raciocínio Clínico e Vieses

No artigo, os autores enumeram algumas situações que podem ocorrer quando o treino da ferramenta de IA não considera aspetos como a prevalência, a distribuição geográfica ou as especificidades populacionais, o que pode levar a um raciocínio clínico enviesado por parte do profissional que utiliza as ferramentas de software. Entre elas, destacam-se:

Viés de automatização: Este viés ocorre quando o clínico acredita incondicionalmente na recomendação de uma ferramenta de IA que incorpora diagnósticos raros, mas que tradicionalmente são incluídos na área diagnóstica, devido a fatores emocionais ou viés de disponibilidade, o que altera a verdadeira prevalência do diagnóstico (diagnósticos falso-positivos).

Viés de espectro: Quando uma ferramenta de IA é treinada num cenário ou população muito específicos, a sua precisão pode ser comprometida se aplicada noutros contextos (validade externa).

Falácia da taxa de base: Um médico pode incorrer neste tipo de viés ao ignorar a prevalência de um diagnóstico numa população ao estimar a probabilidade dessa doença num doente, por vezes por razões de representatividade ou disponibilidade. Se uma ferramenta de IA for treinada numa base de dados que inclua estes diagnósticos sobre-representados, produzirá uma representação falsa das probabilidades deste diagnóstico.

Conclusão

A IA é uma ferramenta poderosa com um enorme potencial para auxiliar os profissionais de saúde durante o processo de diagnóstico. A IA deve ser treinada com dados reais obtidos a partir de diferentes fontes, mas, tal como a mente humana, o resultado depende em grande parte da qualidade dos dados, ou seja, que sejam representativos da população, ponderados e o mais objetivos possível.

Bibliografia

1. Weissman GE, Zwaan L, Bell SK. Diagnostic scope: the AI can´t see what the mind doesn´t know. Diagnosis(Berlin).2024 Dec 4;12(2): 189-196 . LINK HERE
2. Jabbour S, et al. Measuring the impact of AI in the diagnosis of hospitalized patients: a randomized clinical vignette survey study. JAMA 2023; 330:2275-84
3. Bar-Hillel M. The base-rate fallacy in probability judgment. Acta Psychologica. 1980;44:211-33

Autor: Lorenzo Alonso Carrión

FORO  OSLER

Compartir: