A arquitetura de processamento de dados pode reconfigurar o conteúdo dentro do fluxo de processamento de dados IoT
p Figura 1:serviços em tempo real por meio da coleção, análise, e utilização de dados de carros conectados. Crédito:Fujitsu
p A Fujitsu Laboratories Ltd. anunciou hoje o desenvolvimento da Arquitetura de processamento EveNt Consistente Assíncrona Dinamicamente Reconfigurável (Dracena), uma arquitetura de processamento de fluxo que pode adicionar ou alterar conteúdo enquanto processa grandes volumes de dados de IoT, sem parar. Com os avanços recentes nas tecnologias IoT, espera-se que muitos serviços em tempo real sejam criados para utilizar os grandes volumes de dados que fluem para a nuvem a partir de vários dispositivos nas fábricas, casas, e infraestrutura social. Na progressão para direção autônoma com carros conectados, pesquisadores estão considerando a análise da vasta quantidade de informações, como velocidade e localização, gerado a partir de veículos, que pode então ser apresentado aos motoristas, na forma de avisos, por exemplo. p Tecnologia de processamento de fluxo, que é eficaz no processamento de alta velocidade desses tipos de grandes volumes de dados, tem problemas nisso, porque o processamento deve ser temporariamente interrompido ao alterar ou adicionar conteúdo de processamento de acordo com adições ou melhorias aos serviços, a prestação de serviços pode sofrer atrasos. Agora, A Fujitsu desenvolveu uma nova arquitetura de processamento de fluxo que muda automaticamente para um programa de processamento de dados recém-fornecido quando um trabalho de processamento de dados paralelizado é concluído, separando o processamento de fluxo em processamento de recepção de dados e processamento de dados real, de modo que o processamento de recepção de dados e o processamento de dados atual não sejam interrompidos (patente pendente).
p Como resultado, em uma simulação da recepção de algumas dezenas de bytes de dados por segundo de um milhão de veículos, A Fujitsu confirmou que esta arquitetura é capaz de continuar processando dados de streaming enquanto adiciona ou altera programas de processamento, com um atraso médio, aumente os volumes de cinco milissegundos ou menos. A Fujitsu Laboratories pretende comercializar esta tecnologia durante o ano fiscal de 2018 na Mobility IoT Platform, oferecido pela Fujitsu Limited, e estendê-lo a outras áreas da indústria. Os detalhes desta tecnologia foram apresentados no DEIM2018 (Fórum de Engenharia de Dados e Gestão da Informação), uma conferência sendo realizada em Awara, Prefeitura de Fukui, Japão, a partir de 4 de março.
p
Histórico de Desenvolvimento
p Com o recente desenvolvimento de tecnologias IoT, dados começaram a ser coletados de todos os tipos de objetos e coletados em datacenters, e espera-se que, ao analisar e utilizar isso, uma variedade de novos serviços será criada. No caso de carros conectados, por exemplo, pensa-se que, coletando, analisando, e utilizando dados de automóveis em tempo real, será possível aliviar o congestionamento, auxiliar os motoristas, e melhorar a segurança da direção autônoma (figura 1).
p Figura 2:Diferenças entre a tecnologia existente e a tecnologia de atualização sem interrupções do Dracena. Crédito:Fujitsu
p Para processar dados rapidamente, como velocidade e localização, que são gerados em uma base de segundo a segundo por um grande número de carros em movimento, o método mais eficaz é construir um sistema que use processamento de fluxo para processar dados em paralelo, como em uma base de carro a carro. Para adicionar ou alterar o programa de processamento de acordo com as adições e melhorias de serviço, o método atual envolve preparar dois sistemas da mesma escala com antecedência, usando um para operações, fazendo alterações no outro, e, em seguida, trocá-los rapidamente. Este método exigia que ambos os sistemas fossem temporariamente parados, Contudo, enquanto os dados, como a velocidade ou posição de um carro, mantido na memória do sistema em uso, foi copiado para o sistema revisado. Isso dificultou a produção de serviços que exigiam operações verdadeiramente contínuas, como a transmissão em tempo real de avisos para carros conectados. Além disso, porque novos programas de processamento foram obtidos do banco de dados, conhecido como repositório, congestionamento resultou com as inúmeras consultas de grandes volumes de unidades de processamento, atrasando o processamento geral.
p
Detalhes da tecnologia desenvolvida recentemente
p Agora, Fujitsu Laboratories desenvolveu Dracena, uma arquitetura que pode modificar os programas de processamento de um sistema enquanto ele está operando, sem interromper as operações. Com esta tecnologia, ao alterar ou adicionar conteúdo de processamento de dados, esta arquitetura distribui o novo programa de processamento de dados como uma mensagem, da mesma forma que os dados são distribuídos, para cada unidade de processamento individual, chamado de objeto, como a unidade de processamento de cada carro. Isso elimina o impacto na velocidade geral de processamento devido à concentração de consultas no repositório. Além disso, separando o processamento de recepção de mensagem intra-objeto e o processamento de dados nesta arquitetura, o sistema é capaz de adicionar o novo programa de processamento de dados sem parar o processamento de recepção de mensagens ou o processamento de dados existente, e então todos os objetos mudam para o novo programa de processamento de dados com o mesmo tempo. Isso permitiu à Fujitsu Laboratories criar uma arquitetura de processamento de fluxo na qual o programa de processamento de dados pode ser adicionado ou alterado sem parar, para continuar o processamento paralelizado sem reter o fluxo de grandes volumes de dados para cópia (figura 2).
p Os resultados de uma avaliação simulada confirmaram que, em um caso de uso em que algumas dezenas de bytes de dados são transmitidos uma vez a cada segundo de um milhão de veículos, esta arquitetura era capaz de fornecer serviços continuamente ao adicionar um serviço de detecção de frenagem repentina em uma situação em que o sistema já estava fornecendo um serviço para detectar tempos de condução excessivos, com um retardo médio, aumente o volume de cinco milissegundos ou menos. Esta arquitetura permitirá o fornecimento rápido de serviços em tempo real que requerem operação ininterrupta e que podem responder aos problemas que ocorrem na sociedade, incluindo o fornecimento de assistência na direção de carros conectados, apoiando o uso de aparelhos com economia de energia, fornecer monitoramento doméstico de saúde e segurança, e fornecimento de orientação de viagem para turistas que usam smartphones. Além disso, esta arquitetura permite que os usuários adotem um método de construção em que primeiro constroem um sistema básico voltado para análise e utilização simples, e, em seguida, adicione gradualmente novos serviços. Usando essa tecnologia no caso de automóveis, por exemplo, seria possível começar com um sistema que lê sinais de dirigir embriagado com base nos dados de operação do volante, e, em seguida, adicionar novos serviços camada por camada, como combinar isso com dados de mapa para detectar ventos cruzados nas saídas de túneis, ou combiná-lo com dados de imagem para detectar a presença de carros estacionados ilegalmente, que pode ser esperado para melhorar a eficiência do desenvolvimento de serviços.
p A Fujitsu pretende comercializar esta tecnologia durante o ano fiscal de 2018 como um elemento constituinte da Mobility IoT Platform oferecida pela Fujitsu Limited. Além disso, A Fujitsu está procurando estender esta tecnologia além do campo da mobilidade para áreas de negócios que requerem serviços em tempo real com base em dados que são gerados continuamente em alta frequência, como fornecer instruções às pessoas durante eventos ou em situações de desastre.