O cérebro e todas as suas magníficas capacidades são alimentados por menos de 20 watts. Pare para pensar nisso por um segundo. Enquanto escrevo este blog, meu laptop está usando cerca de 80 watts, ainda com apenas um quarto da potência, nosso cérebro supera os supercomputadores de última geração em várias ordens de magnitude quando se trata de eficiência energética e volume. A natureza é verdadeiramente notável.

Por esse motivo, não deve ser surpreendente que cientistas de todo o mundo estejam buscando inspiração no cérebro humano como uma avenida promissora para o desenvolvimento de sistemas de computação de IA de próxima geração e, embora a indústria de TI tenha feito um progresso significativo nos últimos anos, principalmente no uso de aprendizado de máquina para visão computacional e reconhecimento de fala, a tecnologia atual está atingindo uma parede quando se trata de redes neurais profundas que combinam com a eficiência energética de sua contraparte biológica, mas isso pode estar prestes a mudar.

Conforme relatado na semana passada em Nature Communications , meus colegas e eu na IBM Research e colaboradores na EPFL e no New Jersey Institute of Technology desenvolvemos e testamos experimentalmente uma arquitetura de sinapse artificial usando 1 milhão de dispositivos - um passo significativo para a realização de tecnologia de computação neuromórfica em grande escala e com eficiência energética.

Quando o brilhante cientista John von Neumann construiu a arquitetura de computador de hoje, que aciona quase 100 por cento dos computadores do mundo, ele manteve a memória e o processamento separadamente. Isso significa que os dados precisam estar constantemente indo e voltando, gerar calor e exigir muita energia - é um gargalo de eficiência. O cérebro, claro, não tem compartimentos diferentes, por isso é tão eficiente. Mas isso não impediu as equipes de aderir ao projeto de von Neumann para construir uma rede neural e, embora tenham algum sucesso, a eficiência desses sistemas permanece baixa - você simplesmente não consegue vencer a natureza.

Mais recentemente, cientistas, incluindo os da IBM, adotaram uma abordagem diferente com base em uma nova classe de dispositivos em nanoescala conhecidos como dispositivos memristivos, que se mostraram muito promissores no tratamento desse gargalo. O design do nosso dispositivo é baseado em algo chamado memória de mudança de fase (PCM), sem dúvida a mais avançada tecnologia emergente de memória não volátil. Um pulso elétrico é aplicado ao material, que muda a condutância do dispositivo através de suas propriedades físicas.

Conforme explicado em nosso artigo:"Dispositivos memristivos, como dispositivos PCM, armazenam informações em seus estados de resistência / condutância e exibem modulação de condutividade com base na história da programação. A ideia central na construção de hardware cognitivo com base em dispositivos memristivos é armazenar os pesos sinápticos como seus estados de condutância e para realizar as tarefas computacionais associadas no local. modulação precisa da condutância do dispositivo em uma ampla faixa dinâmica, necessário para manter a alta precisão da rede, está provando ser um desafio. "

Nosso avanço está em nosso design, que chamamos de arquitetura sináptica multi-memristiva. Essa arquitetura nos permite aumentar a precisão sináptica sem aumentar a densidade de potência, embora usemos vários dispositivos memristivos para representar uma sinapse. O truque é que temos um bom mecanismo de seleção, com base em um contador global, que informa ao dispositivo que ele precisa ser alterado e quando. A única penalidade ou custo é a exigência de mais espaço para os dispositivos PCM adicionais.

Para testar nossa arquitetura, treinamos redes neurais com e sem spikes. Nossos dados selecionados são populares - o conjunto de dados MNIST de dígitos manuscritos e nossa tarefa é o reconhecimento de dígitos manuscritos - essencialmente, nossa rede precisa reconhecer qual número está aparecendo nas imagens manuscritas. Em ambos os casos, vemos que a sinapse multi-memristiva supera significativamente as arquiteturas diferenciais convencionais com dois dispositivos, ilustrando claramente a eficácia da arquitetura proposta. Um destaque do trabalho é uma demonstração experimental da arquitetura sináptica multi-memristiva em uma rede neural com pico usando mais de 1 milhão de dispositivos de memória de mudança de fase.

A arquitetura é aplicável a uma ampla gama de redes neurais e tecnologias memristivas e é compatível com crossbar. A arquitetura proposta e sua demonstração experimental são um passo significativo para a realização de sistemas altamente eficientes, redes neurais de grande escala baseadas em dispositivos memristivos com características não ideais observadas experimentalmente. Tendo dito isto, também estamos focados em melhorar o próprio dispositivo memristivo, é precisão e faixa dinâmica e então pensamos que podemos apontar para o Santo Graal - desempenho de ponto flutuante.