Aprender o que as pessoas veem em seus testes de Rorschach (aquele teste psicológico em que sua percepção de uma mancha de tinta é analisada para examinar a personalidade e o funcionamento emocional) é interessante.

Essas imagens abstratas ajudam os psicólogos a avaliar o estado de espírito de um paciente, disse BBC News, em particular, "se eles percebem o mundo sob uma luz negativa ou positiva".

Tão interessante é o que podemos aprender sobre como trabalhar o desempenho de IA no mesmo teste.

Uma equipe do MIT Media Lab criou Norman, o primeiro psicopata AI do mundo. Este é um projeto da escala Cooperação do laboratório.

Jane Wakefield da BBC, repórter de tecnologia, descreveu Norman como um algoritmo treinado para entender imagens.

O que, Normando? Sim, Aquele, modelado em Norman Bates, O famoso personagem de Alfred Hitchcock em seu Psicopata . No que diz respeito aos ícones de personagens da tela, Norman foi tão inesquecível quanto Mary Poppins e Papai Noel.

A equipe por trás do projeto treinou Norman para realizar a legendagem de imagens. A atividade é um método de aprendizado profundo para gerar uma descrição textual de uma imagem.

Para treinamento, as legendas das imagens particulares vieram do que eles chamaram de "um subreddit infame (seu nome foi redigido devido ao seu conteúdo gráfico) que se dedica a documentar e observar a realidade perturbadora da morte".

Wakefield disse que o software mostrou imagens de pessoas morrendo em circunstâncias horríveis, selecionados do grupo no Reddit.

As legendas do lado de Norman foram comparadas com as legendas da rede neural de legendagem de imagem padrão. Como a equipe descreveu, As legendas de Norman foram comparadas com "uma rede neural de legenda de imagem padrão (treinada no conjunto de dados MSCOCO) em manchas de tinta Rorschach."

Por que fazer esse tipo de coisa? O objetivo é um exercício para obter um controle útil sobre o que pode dar errado. "Norman nasceu do fato de que os dados usados ​​para ensinar um algoritmo de aprendizado de máquina podem influenciar significativamente seu comportamento. Então, quando as pessoas falam sobre algoritmos de IA serem tendenciosos e injustos, o culpado muitas vezes não é o algoritmo em si, mas os dados tendenciosos que foram alimentados para ele. O mesmo método pode ver coisas muito diferentes em uma imagem, mesmo coisas doentes, se treinado da forma errada (ou, o direito!) conjunto de dados. "

Normando, a equipe disse, "representa um estudo de caso sobre os perigos da Inteligência Artificial que deu errado quando dados tendenciosos são usados ​​em algoritmos de aprendizado de máquina."

Isso se torna bastante claro quando você olha para os dois AIs, Normando e padrão, respondendo aos testes de manchas de tinta. Norman:Um homem é eletrocutado. IA padrão:pássaros sentados no topo de um galho de árvore. Norman:Homem assassinado por metralhadora em plena luz do dia. Padrão:uma foto em preto e branco de uma luva de beisebol. Norman:Homem é morto a tiros na frente de sua esposa gritando. Padrão:a pessoa está segurando um guarda-chuva no ar.

Como Wakefield colocou, A visão de Norman era "incessantemente desoladora - viu cadáveres, sangue e destruição em todas as imagens. "

E a IA padrão? Tendo sido treinado em imagens "mais normais", ofereceu explicações mais alegres sobre o que estava acontecendo.

Prof. Iyad Rahwan, parte da equipe de três pessoas do Media Lab do MIT que desenvolveu Norman, foi citado por BBC Notícias . "'Os dados são mais importantes do que o algoritmo. Eles destacam a ideia de que os dados que usamos para treinar IA são refletidos na maneira como a IA percebe o mundo e como ele se comporta.'"

Existem duas maneiras de olhar para a mídia social - como um flagelo que nos puxa para uma vida desabada olhando para fotos e vídeos e socando anonimamente inimigos imaginários. Depois, há a mídia social, o monstro invasor de privacidade que quer monetizar todos os nossos gostos e piscar de olhos.

Então, existem essas pessoas.

"Ao longo de milênios, os humanos inventaram várias formas de organização social para governar a si próprios - desde tribos e cidades-estado a reinos e democracias. Essas instituições nos permitem dimensionar nossa capacidade de coordenação, colaborar, trocar informações, e tomar decisões. Hoje, a mídia social oferece novas maneiras de conectar e construir instituições virtuais, permitindo-nos abordar problemas sociais de escala planetária de uma forma crítica em relação ao tempo. Mais significativamente, avanços em inteligência artificial, aprendizado de máquina, e a otimização do computador nos ajuda a reimaginar a solução de problemas humanos. "

Wakefield escreveu que, se o experimento com Norman prova alguma coisa, é que a IA treinada com dados ruins pode se tornar ruim.

© 2018 Tech Xplore