Um método do Laboratório Nacional de Oak Ridge para melhorar a eficiência energética da inteligência artificial científica está se mostrando uma promessa inicial nos esforços para analisar percepções de volumes de dados sobre câncer.

Os pesquisadores estão percebendo o potencial do aprendizado profundo para o avanço rápido da ciência, mas "treinar" as redes neurais subjacentes com grandes volumes de dados para realizar a tarefa em mãos pode exigir grandes quantidades de energia. Essas redes também exigem conectividade complexa e enormes quantidades de armazenamento, ambos reduzem ainda mais sua eficiência energética e potencial em aplicações do mundo real.

Abordar esta questão, Mohammed Alawad do ORNL, Hong-Jun Yoon, e Georgia Tourassi desenvolveu um novo método para o desenvolvimento de redes neurais profundas com eficiência energética, capazes de resolver problemas científicos complexos. Eles apresentaram suas pesquisas na IEEE Conference on Big Data 2017, em Boston.

Os pesquisadores demonstraram que, ao converter redes neurais de aprendizagem profunda (DNNs) em redes neurais de "spikes profundas" (DSNNs), eles podem melhorar a eficiência energética do projeto e realização da rede.

DSNNs imitam neurônios no cérebro humano por meio de pulsos ou "picos" no lugar de sinais reais, com os picos individuais indicando onde realizar os cálculos. Este processo minimiza os cálculos necessários e maximiza a eficiência energética da rede. Contudo, a eficiência energética vem com o custo do desempenho da tarefa, e o novo método estocástico dos autores para implementar DSNNs supera essa compensação.

Os resultados foram impressionantes:a abordagem da equipe alcançou quase a mesma precisão do DNN original e teve um desempenho melhor do que uma rede neural de ponta de ponta. O DSNN baseado em estocástico da equipe, que distribui picos uniformemente ao longo do tempo, consumiu 38 vezes menos energia do que o DNN original e quase 2 vezes menos energia do que um DSNN convencional, ao mesmo tempo em que oferece desempenho de tarefa notavelmente melhor.

Os pesquisadores treinaram sua rede em dados de texto clínico do National Cancer Institute's Surveillance, Epidemiologia, e Programa de Resultados Finais (SEER), que fornece estatísticas de câncer, como incidência, prevalência, e mortalidade na população associada à idade, sexo, raça, ano de diagnóstico, e áreas geográficas.

A equipe ORNL aplicou as redes recém-treinadas aos relatórios de patologia clínica, a principal fonte de informação para o programa nacional de vigilância do câncer. Esses relatórios contêm grandes quantidades de texto não estruturado, disse Yoon, e os pesquisadores estão desenvolvendo sistemas de compreensão de linguagem inteligente para extrair os conceitos clínicos mais relevantes no mar de texto.

Os relatórios clínicos representam um conjunto de dados "esparso", que normalmente representam desafios únicos para spiking redes. A maioria das técnicas de DSNN tem se concentrado em tarefas de visão computacional, como o conjunto de dados MNIST, que consistem em uma série de dígitos escritos à mão para treinar redes de processamento de imagem. Esses conjuntos de dados são normalmente "densos, "significando que todas as variáveis ​​no conjunto de dados são preenchidas com valores, uma característica que muitas vezes simplifica as análises.

As técnicas tradicionais para melhorar o desempenho e a eficiência energética das redes de spikes muitas vezes preservam as estruturas das redes neurais convencionais, uma prática que sacrifica a precisão e o desempenho. Essas deficiências levaram a equipe a desenvolver uma nova metodologia, que se baseia em hardware de circuito simples para realizar cálculos complexos.

"Aumentar a rede reduz o consumo de energia porque desconsideramos os cálculos desnecessários e procuramos apenas os nós relevantes da rede, "disse Yoon, "e esta é uma forma de obtermos melhorias na eficiência energética ao mesmo tempo em que identificamos informações clínicas importantes com alta precisão."

A técnica da equipe ajudará os pesquisadores do ORNL no projeto CANcer Distributed Learning Environment (CANDLE), que tem como objetivo usar a experiência de big data e as instalações de computação de classe mundial do laboratório para examinar milhões de relatórios clínicos em busca de informações sobre as causas do câncer, melhores cursos de tratamento, e melhores resultados. Em breve, eles tentarão paralelizar o algoritmo para obter mais eficiência computacional.

As redes de spiking foram otimizadas em unidades de processamento gráfico (GPUs), os processadores preferidos para aplicações de inteligência artificial, principalmente aqueles que utilizam aprendizado de máquina e aprendizado profundo. Contudo, a metodologia pode ser estendida para o treinamento de redes de spikes, aumentando ainda mais a eficiência energética dessas novas redes e, ao mesmo tempo, acelerando a descoberta científica por meio do aprendizado profundo.