Conforme demonstrado por avanços em vários campos da inteligência artificial (IA), como processamento de imagens, assistência médica inteligente, veículos autônomos e cidades inteligentes, este é, sem dúvida, o período de ouro do aprendizado profundo. Na próxima década, os sistemas de IA e computação serão equipados com a capacidade de aprender e pensar da mesma forma que os humanos – para processar o fluxo contínuo de informações e interagir com o mundo real.
No entanto, os modelos atuais de IA sofrem uma perda de desempenho quando são treinados consecutivamente em novas informações. Isso ocorre porque toda vez que novos dados são gerados, eles são gravados em cima dos dados existentes, apagando assim as informações anteriores. Esse efeito é conhecido como "esquecimento catastrófico". Uma dificuldade surge da questão estabilidade-plasticidade, onde o modelo de IA precisa atualizar sua memória para se ajustar continuamente às novas informações e, ao mesmo tempo, manter a estabilidade de seu conhecimento atual. Esse problema impede que a IA de última geração aprenda continuamente com informações do mundo real.

Os sistemas de computação de borda permitem que a computação seja movida do armazenamento em nuvem e dos data centers para perto da fonte original, como dispositivos conectados à Internet das Coisas (IoTs). A aplicação eficiente do aprendizado contínuo em sistemas de computação de borda com recursos limitados continua sendo um desafio, embora muitos modelos de aprendizado contínuo tenham sido propostos para resolver esse problema. Os modelos tradicionais exigem alto poder de computação e grande capacidade de memória.

Um novo tipo de código para realizar um sistema de aprendizado contínuo com eficiência energética foi recentemente projetado por uma equipe de pesquisadores da Universidade de Tecnologia e Design de Cingapura (SUTD), incluindo Shao-Xiang Go, Qiang Wang, Bo Wang, Yu Jiang e Natasa Bajalovic. A equipe foi liderada pelo investigador principal, Professor Assistente Desmond Loke do SUTD. O estudo desses pesquisadores, "Condução Elétrica de Aprendizagem Contínua em Materiais de Memória de Comutação Resistiva", foi publicado na revista Advanced Theory and Simulations .

A equipe propôs o Brain-Inspired Replay (BIR), um modelo inspirado no cérebro, que realiza o aprendizado contínuo naturalmente. O modelo BIR, baseado no uso de uma rede neural artificial e um autoencoder variacional, imita as funções do cérebro humano e pode ter um bom desempenho em situações de aprendizado incremental de classe sem armazenar dados. Os pesquisadores também usaram o modelo BIR para representar o crescimento de filamentos condutores usando corrente elétrica em sistemas de memória digital.

"Neste modelo, o conhecimento é preservado dentro de modelos treinados para minimizar a perda de desempenho com a introdução de tarefas adicionais, sem a necessidade de consultar dados de trabalhos anteriores", explicou o professor assistente Loke. "Então, isso nos economiza uma quantidade substancial de energia."

"Além disso, foi alcançada uma precisão de última geração de 89% na conformidade desafiadora com as tarefas de aprendizado atuais sem armazenar dados, o que é cerca de duas vezes maior do que a dos modelos tradicionais de aprendizado contínuo, bem como alta eficiência energética,' " ele adicionou.

Para permitir que o modelo processe informações no local no mundo real de forma independente, a equipe planeja expandir a capacidade ajustável do modelo na próxima fase de sua pesquisa.

"Com base em demonstrações de pequena escala, esta pesquisa ainda está em seus estágios iniciais", disse o professor assistente Loke. “Espera-se que a adoção dessa abordagem permita que os sistemas de IA de ponta progridam de forma independente, sem controle humano”. + Explorar mais

Uma sinapse artificial de energia ultrabaixa para sistemas de IA de última geração