(a) O princípio geral da Máquina de Aprendizagem Antecipada (ALM). O atrator observado, um atrator de retardo e atratores não retardo amostrados são todos topologicamente conjugados uns com os outros. Cada atrator não-atrasado amostrado preserva as informações dinâmicas do sistema de maneiras diferentes. Ao integrar as informações contidas nesses atratores não-atrasados amostrados, poderíamos encontrar um mapa um-a-um preciso, mesmo sob deterioração de ruído. (b) Máquina de aprendizagem antecipada. Para cada valor futuro, esses mapas são co-treinados em um mapa unificado Ψ. Quando os mapas são treinados, a soma ponderada é usada como previsão. O valor previsto é então usado como rótulo ao treinar outros mapas para prever o próximo ponto no tempo. Claramente, ALM Ψ transforma a entrada espacial X (tm) em saída temporal Z (tm) em cada ponto tm. Crédito:© Science China Press
Fazendo uma previsão precisa com base em dados observados, em particular de séries temporais de curto prazo, é muito importante em várias disciplinas - desde biologia molecular, neurociência, geociências, e economia para ciências atmosféricas - devido à disponibilidade de dados ou não estacionariedade variante no tempo. Contudo, a maioria dos métodos existentes requer medições suficientemente longas de séries temporais ou um grande número de amostras, e não há nenhum método eficaz disponível para predição com séries temporais de curto prazo devido à falta de informações.
Abordar esta questão, Prof. Chen Luonan (Instituto de Bioquímica e Biologia Celular, Academia Chinesa de Ciências) com o Dr. Chen Chuan (Universidade Sun Yat-sen), O Prof. Ma Huanfei (Soochow University) e o Prof. Aihara Kazuyuki (University of Tokyo) propuseram um novo método baseado em dinâmica baseado em dados, máquina de aprendizagem antecipada (ALM), para alcançar previsões precisas do estado futuro com base em dados de curto prazo, mas de alta dimensão. ALM é uma rede neural multicamadas onde variáveis de alta dimensão são tomadas como neurônios de entrada (variáveis múltiplas, mas em um único ponto de tempo), mas uma variável de destino é considerada como neurônios de saída (variável única, mas em vários pontos de tempo). Desta maneira, O ALM é capaz de transformar a correlação / informação espacial recente de variáveis de alta dimensão em informações dinâmicas / temporais futuras de qualquer variável de destino, ou seja, por equações de transformação de informação espaço-temporal (STI).
Especificamente, ALM pode ser bem treinado para representar o mapa de incorporação distribuída aleatoriamente (RDE) para equações de STI por um grande número de amostras de treinamento geradas com o esquema de Dropout e o esquema de treinamento consistente proposto, prevendo assim a variável alvo de uma maneira precisa e robusta, mesmo a partir de dados de curto prazo. Extensos experimentos com dados de alta dimensionalidade de curto prazo de sistemas sintéticos e do mundo real demonstraram desempenhos significativamente superiores do ALM em relação aos métodos existentes.
Em comparação com as redes neurais tradicionais (ou outras abordagens de aprendizado de máquina), que exploram as estatísticas históricas do sistema de alta dimensão original e, portanto, requerem um grande número de amostras, ALM reconstrói sua dinâmica de forma eficiente e robusta, mesmo com um pequeno número de amostras, restringindo a um espaço de baixa dimensão que é, na verdade, uma propriedade inerente de tal sistema dissipativo. Com base na dinâmica não linear para transformar a informação espacial de todas as variáveis de alta dimensão medidas na evolução temporal da variável de destino, aprendendo as equações STI, O ALM abre um novo caminho para o aprendizado de máquina baseado em dinâmica ou aprendizado antecipado "inteligente".
"Como considerar a forte não linearidade ou / e estocasticidade dos sistemas dinâmicos também com os dados ruidosos observados, e ainda como fazer uma análise teórica mais aprofundada e desenvolver uma estrutura apropriada levando essas questões em consideração continua sendo um problema aberto e interessante no futuro, "afirmam os autores.
