A inteligência artificial (IA) já está firmemente inserida em nossas vidas cotidianas e está conquistando cada vez mais território. Por exemplo, assistentes de voz já são um item do dia a dia nos smartphones de muitas pessoas, carros e casas. O progresso no campo da IA ​​baseia-se principalmente no uso de redes neurais. Imitando a funcionalidade do cérebro humano, as redes neurais ligam unidades definidas matematicamente umas às outras. Mas, no passado, não se sabia apenas como uma rede neural toma decisões. Pesquisadores do Instituto Fraunhofer de Telecomunicações, Instituto Heinrich Hertz, A HHI e a Technische Universität Berlin desenvolveram uma tecnologia que revela os critérios que os sistemas de IA usam para tomar decisões. O método inovador Spectral Relevance Analysis (SpRAy) baseado na tecnologia Layer-wise Relevance Propagation fornece uma primeira olhada dentro da "caixa preta".

Hoje é quase impossível encontrar uma área em que a inteligência artificial seja irrelevante, seja na fabricação, publicidade ou comunicações. Muitas empresas usam sistemas de aprendizagem e IA em rede, por exemplo, para gerar previsões de demanda precisas e prever exatamente o comportamento do cliente. Essa abordagem também pode ser usada para ajustar os processos logísticos regionais. Healthcare também usa atividades específicas de IA, como geração de prognóstico com base em dados estruturados. Isso desempenha um papel, por exemplo, no reconhecimento de imagem:as imagens de raios-X são inseridas em um sistema de IA que, em seguida, produz um diagnóstico. A detecção adequada do conteúdo da imagem também é crucial para a direção autônoma, onde os sinais de trânsito, árvores, pedestres e ciclistas devem ser identificados com total precisão. E este é o ponto crucial da questão:os sistemas de IA devem fornecer estratégias de solução de problemas absolutamente confiáveis ​​em áreas de aplicação sensíveis, como diagnósticos medicinais e em áreas críticas de segurança. Contudo, no passado não estava totalmente claro como os sistemas de IA tomam decisões. Além disso, as previsões dependem da qualidade dos dados de entrada. Pesquisadores do Instituto Fraunhofer de Telecomunicações, Instituto Heinrich Hertz, HHI e Technische Universität Berlin desenvolveram agora uma tecnologia, Propagação de relevância em camadas (LRP), o que torna as previsões de IA explicáveis ​​e, ao fazê-lo, revela estratégias de solução de problemas não confiáveis. Um desenvolvimento adicional da tecnologia LRP, referido como Análise de Relevância Espectral (SpRAy), identifica e quantifica um amplo espectro de comportamentos de tomada de decisão aprendidos e, portanto, identifica decisões indesejáveis, mesmo em enormes conjuntos de dados.

AI transparente

Na prática, a tecnologia identifica os elementos de entrada individuais que foram usados ​​para fazer uma previsão. Assim, por exemplo, quando uma imagem de uma amostra de tecido é inserida em um sistema de IA, a influência de cada pixel individual é quantificada nos resultados da classificação. Em outras palavras, bem como prever o quão "maligno" ou "benigno" o tecido da imagem é, o sistema também fornece informações com base nessa classificação. "Não apenas o resultado deve ser correto, a estratégia da solução também. No passado, Os sistemas de IA foram tratados como caixas pretas. Os sistemas eram confiáveis ​​para fazer as coisas certas. Com nosso software de código aberto, que usa Propagação de Relevância Inteligente em Camadas, conseguimos tornar o processo de busca de soluções de sistemas de IA transparente, "diz o Dr. Wojciech Samek, chefe do grupo de pesquisa "Aprendizado de Máquina" da Fraunhofer HHI. "Estamos usando o LRP para visualizar e interpretar redes neurais e outros modelos de aprendizado de máquina. Usamos o LRP para medir a influência de cada variável de entrada na previsão geral e analisar as decisões tomadas pelos classificadores, "acrescenta o Dr. Klaus-Rob-ert Müller, Professor de Aprendizado de Máquina na TU Berlin.

Estratégias de solução não confiáveis

Confiar nos resultados das redes neurais significa necessariamente entender como elas funcionam. De acordo com os testes da equipe de pesquisa, Os sistemas de IA nem sempre aplicam as melhores estratégias para chegar a uma solução. Por exemplo, um conhecido sistema de IA classifica as imagens com base no contexto. Ele alocou as fotografias para a categoria "Navio" quando uma grande quantidade de água era visível na imagem. Não estava resolvendo a tarefa real de reconhecimento de imagens de navios, mesmo que na maioria dos casos tenha escolhido as fotos certas. "Muitos algoritmos de IA usam estratégias não confiáveis ​​e chegam a soluções pouco práticas, "diz Samek, resumindo os resultados das investigações.

Assistindo redes neurais pensar

A tecnologia LRP decodifica a funcionalidade das redes neurais e descobre quais recursos característicos são usados, por exemplo, para identificar um cavalo como um cavalo e não como um burro ou uma vaca. Ele identifica as informações que fluem pelo sistema em cada nó da rede. Isso torna possível investigar até mesmo redes neurais muito profundas.

As equipes de pesquisa do Fraunhofer HHI e TU Berlin estão atualmente formulando novos algoritmos para a investigação de outras questões, a fim de tornar os sistemas de IA ainda mais confiáveis ​​e robustos. Os parceiros do projeto publicaram seus resultados de pesquisa na revista Nature Communications .

AI, aprendizado de máquina e muito mais

A inteligência artificial está preocupada com o desenvolvimento de sistemas que podem resolver problemas de forma independente e agir de forma análoga aos padrões de pensamento e comportamento humanos. Atualmente, o maior progresso está sendo feito na área de aprendizado de máquina, um subcampo da IA. O aprendizado de máquina lida com métodos de extração de conhecimento de dados e contextos de aprendizagem independentes contidos nos dados. O progresso é resultado do uso de redes neurais artificiais baseadas em conexões entre unidades de cálculos matemáticos que, em princípio, imitam a estrutura neural do cérebro humano. Um subcampo do aprendizado de máquina, aprendizado profundo, cobre uma classe de novos procedimentos que tornam possível ensinar e treinar redes neurais artificiais complexas. Essas redes consistem em um grande número de níveis que estão interligados em estruturas de muitas camadas.