Médicos que tomam decisões de vida ou morte sobre transplantes de órgãos, tratamentos de câncer ou cirurgias cardíacas geralmente não dão muita importância a como a inteligência artificial pode ajudá-los. E é assim que os pesquisadores da Carnegie Mellon University dizem que as ferramentas de IA clínica devem ser projetadas - para que os médicos não precisem pensar sobre elas.

Um cirurgião pode nunca sentir a necessidade de pedir conselhos a um AI, muito menos permitem tomar uma decisão clínica por eles, disse John Zimmerman, o Professor Tang Family de Inteligência Artificial e Interação Humano-Computador no Human-Computer Interaction Institute (HCII) do CMU. Mas uma IA pode orientar as decisões se estiver embutida nas rotinas de tomada de decisão já utilizadas pela equipe clínica, fornecer previsões e avaliações geradas por IA como parte da combinação geral de informações.

Zimmerman e seus colegas chamam essa abordagem de "IA não notável".

"A ideia é que a IA deve ser normal, no sentido de que você não precisa pensar sobre isso e não atrapalha, "Zimmerman disse." Eletricidade é completamente normal até que você não a tenha. "

Qian Yang, um Ph.D. estudante do HCII, abordará como a abordagem Unremarkable AI guiou o design de uma ferramenta de apoio à decisão clínica (DST) no CHI 2019, a Conferência sobre Fatores Humanos em Sistemas de Computação da Association for Computing Machinery, 4 a 9 de maio em Glasgow, Escócia.

Yang, junto com Zimmerman e Aaron Steinfeld, professor associado de pesquisa do HCII e do Instituto de Robótica, estão trabalhando com pesquisadores biomédicos da Cornell University e do CMU's Language Technologies Institute em um DST para ajudar os médicos a avaliar pacientes cardíacos para tratamento com um dispositivo de assistência ventricular (VAD). Esta bomba implantável ajuda corações doentes em pacientes que não podem receber transplantes cardíacos, mas muitos receptores morrem logo após o implante. O DST em desenvolvimento usa métodos de aprendizado de máquina para analisar milhares de casos e calcular a probabilidade de um indivíduo se beneficiar.

Os DSTs foram desenvolvidos para ajudar a diagnosticar ou planejar o tratamento para uma série de condições médicas e procedimentos cirúrgicos, mas a maioria não consegue fazer a transição do laboratório para a prática clínica e cai em desuso.

"Todos eles presumem que você sabe que precisa de ajuda, "Zimmerman disse. Eles muitas vezes enfrentam resistência dos médicos, muitos dos quais acham que não precisam de ajuda, ou veja o DST como uma tecnologia projetada para substituí-los.

Yang usou os princípios de Unremarkable AI para projetar como a equipe clínica iria interagir com o DST para VADs. Essas equipes incluem médicos de nível médio, como enfermeiros, assistentes sociais e coordenadores de VAD, que usam computadores rotineiramente; e cirurgiões e cardiologistas, que valorizam o conselho de seus colegas em relação ao suporte computacional.

O momento natural para incorporar os prognósticos do DST é durante as reuniões de avaliação de pacientes multidisciplinares, Yang disse. Embora os médicos tomem a decisão final sobre quando ou se implantar um VAD, a equipe inteira está frequentemente presente nessas reuniões e os computadores estão sendo usados.

Seu projeto incorpora automaticamente os prognósticos de DST nos slides preparados para cada paciente. Na maioria dos casos, as informações do horário de verão não serão significativas, Steinfeld sugeriu, mas para certos pacientes, ou em certos pontos críticos para cada paciente, o DST pode fornecer informações que exigem atenção.

Embora o próprio DST ainda esteja em desenvolvimento, os pesquisadores testaram este design de interação em três hospitais que realizam cirurgia VAD, com slides aprimorados DST apresentados para pacientes simulados.

"Os níveis médios - a equipe de suporte - adoraram isso, "Yang disse, porque melhorou sua contribuição e os ajudou a ser mais ativos na discussão. A reação do médico foi menos entusiasmada, refletindo ceticismo sobre DSTs e a convicção de que era impossível avaliar totalmente a interação sem um sistema em pleno funcionamento e pacientes reais.

Mas Yang disse que os médicos não mostraram a mesma atitude defensiva e sentimentos sobre serem substituídos por uma tecnologia tipicamente associada aos DSTs. Eles também reconheceram que o DST pode informar suas decisões.

"Os sistemas anteriores tratavam de dizer a você o que fazer, "Zimmerman disse." Não estamos substituindo o julgamento humano. Estamos tentando dar aos humanos habilidades desumanas. "

"E para fazer isso precisamos manter o processo de tomada de decisão humana, "Steinfeld acrescentou.