Não, não é um novo filme de terror. É Norman:também conhecido como a primeira inteligência artificial psicopática, acaba de ser revelado por pesquisadores dos EUA.

O objetivo é explicar em termos leigos como os algoritmos são feitos, e conscientizar as pessoas sobre os perigos potenciais da IA.

Norman "representa um estudo de caso sobre os perigos da Inteligência Artificial que deu errado quando dados tendenciosos são usados ​​em algoritmos de aprendizado de máquina, "de acordo com o prestigioso Instituto de Tecnologia de Massachusetts (MIT).

Pinar Yanardag, Manuel Cebrian e Iyad Rahwan, parte de uma equipe do MIT, acrescentou:"existe uma ideia central no aprendizado de máquina:os dados que você usa para ensinar um algoritmo de aprendizado de máquina podem influenciar significativamente seu comportamento."

"Então, quando falamos sobre algoritmos de IA serem tendenciosos ou injustos, o culpado muitas vezes não é o algoritmo em si, mas os dados tendenciosos que foram alimentados para ele, "disseram por e-mail.

Daí a ideia de criar Norman, que recebeu o nome do assassino psicopata Norman Bates no filme de Alfred Hitchcock de 1960 "Psycho".

Norman foi "alimentado" apenas com pequenas lendas descrevendo imagens de "pessoas morrendo" encontradas na plataforma de internet Reddit.

Os pesquisadores então enviaram imagens de manchas de tinta, como no teste psicológico Rorschach, para determinar o que Norman estava vendo e comparar suas respostas às da IA ​​tradicionalmente treinada.

Os resultados são assustadores, para dizer o mínimo:onde a IA tradicional vê "duas pessoas próximas uma da outra, "Norman vê na mesma mancha de tinta" um homem que salta de uma janela. "

E quando Norman distingue "um homem morto a tiros por sua esposa gritando, "a outra IA detecta" uma pessoa segurando um guarda-chuva ".

Um site dedicado, norman-ai.mit.edu, mostra 10 exemplos de manchas de tinta acompanhadas por respostas de ambos os sistemas, sempre com uma resposta macabra de Norman.

O site permite que os usuários da Internet também testem Norman com manchas de tinta e enviem suas respostas "para ajudar Norman a se consertar".

© 2018 AFP