A inteligência artificial e o aprendizado de máquina (AI / ML) estão transformando cada vez mais o setor de saúde. De detectar tumores malignos à leitura de tomografias computadorizadas e mamografias, A tecnologia baseada em AI / ML é mais rápida e precisa do que os dispositivos tradicionais - ou mesmo os melhores médicos. Mas junto com os benefícios vêm novos riscos e desafios regulatórios.

Em seu último artigo, "Algoritmos sobre bloqueio regulatório em medicina" publicado recentemente em Ciência , Boris Babic, INSEAD Professor Assistente de Ciências da Decisão; Theodoros Evgeniou, Professor INSEAD de Ciências da Decisão e Gestão de Tecnologia; Sara Gerke, Fellow de pesquisa no Petrie-Flom Center for Health Law Policy da Harvard Law School, Biotecnologia, e Bioética; e I. Glenn Cohen, Professor da Harvard Law School e diretor do corpo docente do Petrie-Flom Center, Veja os novos desafios que os reguladores enfrentam enquanto navegam pelos caminhos desconhecidos de AI / ML.

Eles consideram as perguntas:Que novos riscos enfrentamos quando os dispositivos de AI / ML são desenvolvidos e implementados? Como eles devem ser gerenciados? Em quais fatores os reguladores precisam se concentrar para garantir o valor máximo com risco mínimo?

Até agora, órgãos reguladores como a Food and Drug Administration (FDA) dos EUA aprovaram software médico baseado em AI / ML com "algoritmos bloqueados, " isso é, algoritmos que fornecem o mesmo resultado todas as vezes e não mudam com o uso. Contudo, um ponto forte e potencial benefício da maioria das tecnologias de AI / ML é derivado de sua capacidade de evoluir conforme o modelo aprende em resposta a novos dados. Esses "algoritmos adaptativos, "tornado possível por causa da AI / ML, criar o que é, em essência, um sistema de aprendizagem de saúde, em que as fronteiras entre pesquisa e prática são porosas.

Dado o valor significativo deste sistema adaptativo, uma questão fundamental para os reguladores hoje é se a autorização deve ser limitada à versão da tecnologia que foi submetida e avaliada como sendo segura e eficaz, ou se permitem a comercialização de um algoritmo em que maior valor seja encontrado na capacidade da tecnologia de aprender e se adaptar a novas condições.

Os autores analisam detalhadamente os riscos associados a este problema de atualização, considerando as áreas específicas que requerem foco e as formas pelas quais os desafios podem ser enfrentados.

A chave para uma regulamentação forte, eles dizem, é priorizar o monitoramento contínuo dos riscos.

“Para gerir os riscos, os reguladores devem se concentrar principalmente no monitoramento contínuo e avaliação de risco, e menos no planejamento de futuras mudanças no algoritmo, "dizem os autores.

Conforme os reguladores avançam, os autores recomendam que desenvolvam novos processos para monitorar continuamente, identificar, e gerenciar os riscos associados. Eles sugerem elementos-chave que podem ajudar com isso, e que podem no futuro ser automatizados usando AI / ML, possivelmente com sistemas de AI / ML monitorando uns aos outros.

Embora o artigo seja amplamente baseado na experiência do FDA na regulamentação da tecnologia biomédica, as lições e exemplos têm ampla relevância à medida que outros países consideram como moldam sua arquitetura regulatória associada. Eles também são importantes e relevantes para qualquer empresa que desenvolve produtos e serviços integrados de AI / ML, do automotivo, para o seguro, finanças, energia, e cada vez mais muitos outros. Os executivos de todas as organizações têm muito a aprender sobre o gerenciamento de novos riscos de IA / ML com a forma como os reguladores os pensam hoje.

"Nosso objetivo é enfatizar os riscos que podem surgir de mudanças imprevistas em como os sistemas médicos de IA / ML reagem ou se adaptam a seus ambientes, "dizem os autores, avisando que, "Sutil, frequentemente, atualizações paramétricas não reconhecidas ou novos tipos de dados podem causar erros grandes e caros. "