O uso de ferramentas de suporte à decisão e de automação na prática médica não é algo recente. As primeiras ferramentas utilizavam modelos de regressão simples para reduzir a heterogeneidade e oferecer um cuidado mais estruturado. Na cardiologia, exemplos iniciais de ferramentas de suporte à decisão incluíram o escore de risco de Framingham para estratificação de risco na prevenção primária e os ajustes automatizados de doses para heparina ou varfarina. Desde então, os processos de automação tornaram-se mais sofisticados e atualmente estão amplamente disseminados em diversos aspectos rotineiros da prática médica. Na cardiologia, incluem interpretações preliminares automatizadas de traçados de eletrocardiograma (ECG), bem como medições e análises de imagens automatizadas em ecocardiografia, medicina nuclear e ressonância magnética cardíaca. Outros sistemas automatizados de suporte à decisão clínica auxiliam na redução de erros de prescrição, alertando os profissionais de saúde sobre interações medicamentosas ou dosagens incorretas, por exemplo. Com os avanços recentes da inteligência artificial (IA), as expectativas quanto ao futuro dessas ferramentas cresceram de forma expressiva. No entanto, as possíveis implicações negativas têm recebido consideravelmente menos atenção.

Os sistemas de suporte à decisão podem aprimorar a tomada de decisão médica e os desfechos dos pacientes. No entanto, esses sistemas não são infalíveis e podem gerar resultados incorretos. A maioria dos estudos que avaliam seu desempenho baseia-se em métricas médicas convencionais, como sensibilidade, especificidade, acurácia e área sob a curva receiver operating characteristic. Contudo, é ainda mais importante avaliar o impacto dessas ferramentas no mundo real, especialmente considerando a forma como os profissionais interagem com elas. Essa questão torna-se particularmente relevante à luz do Regulamento de Inteligência Artificial da União Europeia, que exige supervisão humana para sistemas de IA considerados de alto risco. O tema adquire ainda mais relevância com o uso disseminado de chatbots de IA generativa, uma vez que a atual geração de ferramentas complexas de IA tem contribuído para uma tendência crescente de dependência excessiva de processos de automação imperfeitos.

[…]

Daniel Kahneman reforçou e popularizou o processo cognitivo em duas formas de pensar. O sistema 1 se baseia em padrões reconhecidos, detectando relações simples, correlacionando estereótipos, associando ideias numa busca por coerência. Ele é rápido, intuitivo, automático, com nenhum ou pouco esforço e gasto de energia. Não pode ser desligado, monitorando continuamente o ambiente por uma necessidade de sobrevivência que remete aos nossos ancestrais. O sistema 2 exige atenção, compara objetos com base em diversos atributos e faz escolhas deliberadas a partir de opções. Pondera os cenários exibindo entendimento de lógica e estatística. Por exigir atenção, sua atividade é interrompida quando a atenção é desviada. Portanto, atividades que exigem esforço, interferem uma com a outra (fazer uma curva ao dirigir um veículo e realizar um cálculo complexo é impossível). Contudo, é lento, deliberado, laborioso e ordenado. Eles se relacionam, o sistema 1 origina sem esforço as impressões e sensações que são as principais fontes de crenças explícitas e escolhas deliberadas do sistema 2. No dia a dia, tomamos decisões baseadas em heurística, um atalho mental, totalmente atrelado ao sistema 1, para poupar tempo e energia. Apesar de extremamente eficiente, essa forma mais rápida de pensar, abre possibilidades para os vieses cognitivos que são tendências sistemáticas que distorcem o raciocínio lógico e levam a decisões inadequadas.

As causas de erro em medicina diagnóstica se dividem em dois grupos: erros de percepção e erros de interpretação. Erros de percepção ocorrem quando a anormalidade está presente na imagem, mas não é detectada. Podem estar ligados à aquisição da imagem, ao pós-processamento ou à qualidade do equipamento. Erros de interpretação acontecem quando a anormalidade é vista, mas seu significado é mal interpretado. Nesses casos, vieses cognitivos podem estar presentes e responder por até 74% dos erros diagnósticos.^– Há cerca de 30 tipos de vieses cognitivos descritos na literatura. No diagnóstico por imagem, os mais relevantes são: ancoragem, viés de confirmação, viés de disponibilidade, viés de atribuição, efeito de enquadramento e satisfação da busca.^-,

[…]