Nos dias de hoje, os mais recentes desenvolvimentos na pesquisa de inteligência artificial (IA) sempre recebem muita atenção, mas um pesquisador de IA do Laboratório de Pesquisa Naval dos EUA acredita que uma técnica de IA pode estar ficando um pouco demais.

Ranjeev Mittu chefia o ramo de gerenciamento de informações e arquiteturas de decisão da NRL e trabalha na área de IA há mais de duas décadas.

"Acho que as pessoas se concentraram em uma área de aprendizado de máquina - aprendizado profundo (também conhecido como redes profundas) - e menos na variedade de outras técnicas de inteligência artificial, "Mittu disse." A maior limitação das redes profundas é que um entendimento completo de como essas redes chegam a uma solução ainda está longe da realidade. "

O aprendizado profundo é uma técnica de aprendizado de máquina que pode ser usada para reconhecer padrões, como identificar uma coleção de pixels como a imagem de um cachorro. A técnica envolve camadas de neurônios juntos, com cada camada dedicada ao aprendizado de um nível diferente de abstração.

No exemplo da imagem do cachorro, as camadas inferiores da rede neural aprendem detalhes primitivos como valores de pixel. O próximo conjunto de camadas tenta aprender arestas; as camadas superiores aprendem uma combinação de arestas como um nariz. Com camadas suficientes, essas redes são capazes de reconhecer imagens com desempenho quase semelhante ao humano.

Mas os sistemas podem ser enganados facilmente apenas alterando um pequeno número de pixels, de acordo com Mittu.

"Você pode ter 'ataques' adversários onde, depois de criar um modelo para reconhecer cães, mostrando milhões de fotos de cães, "disse ele."… fazendo alterações em um pequeno número de pixels, a rede pode classificá-lo incorretamente como um coelho, por exemplo."

A maior falha dessa técnica de aprendizado de máquina, de acordo com Mittu, é que existe um grande grau de arte na construção desse tipo de rede, o que significa que existem poucos métodos científicos para ajudar a entender quando eles falharão.

A solução?

"Existem inúmeras técnicas de IA das quais o aprendizado de máquina é um subconjunto, "disse ele." Embora o aprendizado profundo tenha sido muito bem-sucedido, também é atualmente limitado porque há pouca visibilidade de sua lógica de decisão. Até que realmente cheguemos a um ponto em que esta técnica se torne totalmente "explicável, "não pode informar humanos ou outra automação sobre como chegou a uma solução, ou porque falhou. Temos que perceber que as redes profundas são apenas uma ferramenta na caixa de ferramentas de IA. "

E, os humanos têm que ficar por dentro.

"Imagine que você tenha um sistema automatizado de detecção de ameaças na ponte de sua nave, e pega um pequeno objeto no horizonte, "disse ele." A classificação de rede profunda pode indicar que é uma nave de ataque rápido vindo em sua direção, mas você sabe que um conjunto muito pequeno de pixels incertos pode enganar o algoritmo. Voce acredita nisso?

"Um humano terá que examiná-lo mais detalhadamente. Sempre pode ser necessário haver um humano no circuito para situações de alto risco. Pode haver um alto grau de incerteza e o desafio é aumentar a precisão da classificação, mantendo a taxa de alarmes falsos baixa - às vezes é muito difícil encontrar o equilíbrio perfeito. "

O problema do aprendizado de máquina

Quando se trata de aprendizado de máquina, o fator chave, simplesmente colocado, são dados.

Considere um dos projetos anteriores de Mittu:uma análise dos movimentos de navios comerciais em todo o mundo. O objetivo do projeto era usar o aprendizado de máquina para discernir padrões no tráfego de navios para identificar os navios envolvidos em atividades ilícitas. Foi um problema difícil de modelar e entender usando aprendizado de máquina, Disse Mittu.

“Não podemos ter um modelo global porque os comportamentos serão diferentes para as classes de embarcações, os Proprietários, etc. ", explicou ele." É ainda diferente sazonalmente, por causa do estado do mar e dos padrões climáticos. "

Mas o maior problema, Mittu encontrou, foi a possibilidade de usar erroneamente dados de baixa qualidade.

"Os navios transmitem sua localização e outras informações, assim como aeronaves. Mas o que eles transmitem pode ser falsificado, "Mittu disse." Você não sabe se é uma informação boa ou ruim. É como alterar aquele pequeno número de pixels na imagem do cachorro que faz com que o sistema falhe. "

Dados ausentes são outro problema. Imagine um caso em que você deve mover um grande número de pessoas e materiais regularmente para sustentar as operações militares, e você está contando com dados incompletos para prever como pode agir com mais eficiência.

"A dificuldade surge quando você começa a treinar algoritmos de aprendizado de máquina em dados de baixa qualidade, "Mittu disse." O aprendizado de máquina se torna não confiável em algum momento, e os operadores não confiarão nos resultados dos algoritmos. "

Trabalho atual em IA

Hoje, a equipe de Mittu continua a buscar inovações em IA em várias áreas do campo. Eles defendem uma abordagem interdisciplinar para o emprego de sistemas de IA para resolver problemas complexos.

"Existem muitas maneiras de melhorar os recursos preditivos, mas provavelmente o melhor da raça terá uma abordagem holística e empregará várias técnicas de IA e integrará estrategicamente o tomador de decisões humano, " ele disse.

"Agregar várias técnicas (semelhante a 'impulsionar'), que pode 'ponderar' algoritmos de forma diferente, poderia fornecer uma resposta melhor, ou aprendizagem combinada com raciocínio, etc. Ao empregar combinações de técnicas de IA, o sistema resultante pode ser mais robusto para dados de baixa qualidade. "

Uma área com a qual Mittu está animado são os sistemas de recomendação. De acordo com ele, a maioria das pessoas já está familiarizada com esses sistemas, que são usados ​​em mecanismos de pesquisa e aplicativos de entretenimento, como o Netflix. Ele está animado com as aplicações militares em potencial.

"Pense em um comando militar e sistema de controle, onde os usuários precisam de boas informações para tomar boas decisões, "disse ele." Observando o que o usuário está fazendo no sistema dentro de algum contexto, podemos antecipar o que o usuário pode fazer a seguir e inferir os dados de que ele pode precisar. "

Embora o campo da IA ​​ofereça um potencial quase ilimitado para soluções inovadoras para os problemas de hoje, Mittu disse, os pesquisadores obviamente têm muitos anos de trabalho pela frente.

"Precisamos determinar as técnicas certas, suas limitações, e os dados necessários para obter respostas confiáveis ​​para que os usuários confiem no sistema resultante, "disse ele." O campo da IA ​​ainda tem um longo caminho a percorrer ao adotar uma abordagem holística, integrando estrategicamente o tomador de decisão a fim de melhorar o desempenho do sistema humano e da máquina. "