p Uma pequena equipe de pesquisadores médicos da Universidade de Harvard e do MIT publicou um artigo do Policy Forum no jornal Ciência sugerindo que os futuros sistemas de IA médica podem ser vulneráveis ​​a ataques adversários. Eles apontam que pesquisas anteriores mostraram que virtualmente todos os sistemas de IA são vulneráveis ​​de alguma forma a tais ataques. p Um ataque adversário no campo do aprendizado de máquina é uma tentativa, por meio de uma entrada mal-intencionada, de enganar o modelo no qual esse sistema foi construído. Na prática, isso significa alimentar um sistema de IA com algum tipo de informação que o força a retornar resultados incorretos. Os pesquisadores sugerem que tal ataque poderia ser direcionado a sistemas de detecção como aqueles programados para encontrar câncer por meio da análise de varreduras. Eles até mostraram como um ataque adversário funcionaria alimentando um sistema com um certo padrão de ruído que gerou confusão, resultando em resultados incorretos.

p Mas esse não é o tipo de ataque adversário com o qual os pesquisadores estão realmente preocupados. O que mais os preocupa são os sistemas de IA que foram desenvolvidos e já estão em uso, envolvidos no processamento de reclamações e faturamento - a possibilidade de hospitais ou até mesmo médicos usarem esses sistemas para alterar informações em formulários para receber mais por seguradoras ou Medicaid para a realização de testes, por exemplo, alterando um código para fazer um simples raio-X parecer um teste de ressonância magnética. Alimentar um sistema de IA com a informação certa no momento certo pode fazer exatamente isso. Também existe a possibilidade de um hospital ensinar seu sistema de IA a encontrar as melhores maneiras de enganar as seguradoras ou o governo, tornando quase impossível detectar.

p Os pesquisadores sugerem que uma nova abordagem para a formulação de políticas é necessária - uma em que pessoas de uma ampla variedade de campos, incluindo a lei, ciência da computação e medicina, resolva o problema antes que ele se torne predominante. Esses grupos poderiam, possivelmente, encontre maneiras de evitar que isso aconteça, ou pelo menos detectá-lo, se isso acontecer. p © 2019 Science X Network