Quando os pesquisadores projetam sistemas de aprendizado de máquina, seu objetivo é normalmente automatizar certas funções. Em vez de ser totalmente autônomo, Contudo, a maioria desses sistemas funciona junto com os humanos. Para ser realmente útil, eles precisam entender quais objetivos as pessoas têm.

Pesquisadores do Centro Finlandês de Inteligência Artificial (FCAI) já deram passos importantes para projetar IA que compreende as pessoas.

Inicialmente, os pesquisadores ensinaram a IA a construir um modelo de seu usuário - humano ou máquina. Então, eles o ensinaram a adaptar este modelo seguindo as ações do usuário. Na prática, os pesquisadores desenvolveram métodos de aprendizado de máquina que combinam estatística com computação, e então testou os métodos na prática e em simulações. Eles testaram os algoritmos em situações simples para se certificar de que entendiam o que exatamente acontecia nessas situações e relatavam os eventos com precisão.

No primeiro experimento, eles projetaram um professor de IA para o aprendizado de IA.

"Isso foi difícil, especialmente porque a IA de aprendizagem podia decidir o que queria aprender, "explica Samuel Kaski, o diretor da FCAI e professor da Aalto University. Os pesquisadores notaram que o aluno de IA alcançou melhores resultados de aprendizagem quando o professor entendeu quais informações o aluno já havia aprendido e adaptou seu material de ensino para se adequar a esse aluno em particular.

No segundo experimento, usuários humanos foram solicitados a encontrar uma palavra-alvo específica usando um mecanismo de busca de palavras baseado em IA. O mecanismo apresenta ao usuário uma palavra de cada vez, e o usuário então diz se a palavra apresentada é útil para encontrar a palavra-alvo. Se o usuário estiver procurando pela palavra "futebol, " por exemplo, eles provavelmente dirão que a primeira palavra relacionada ao esporte apresentada é útil, se todas as palavras anteriores foram relacionadas a comida.

Os resultados deste experimento mostraram que a IA poderia ajudar os usuários a encontrar as palavras-alvo mais rapidamente se entendesse que, respondendo às palavras apresentadas de uma certa maneira, o usuário deseja direcionar a IA para as palavras certas. Em outras palavras, a IA levou em consideração o fato de que o usuário está tentando ensiná-lo.

De acordo com o professor Kaski, este tópico é importante, já que a interação entre o usuário e a IA se torna muito mais fácil quando a IA entende os objetivos de seu usuário. "Então o usuário humano não precisa mais explicar em detalhes o que espera do auxiliar de IA."

Um dos principais objetivos da FCAI é desenvolver IA que entenda os humanos e seja compreensível. "Até aqui, podemos construir sistemas de IA que entendem os objetivos dos usuários apenas em situações muito simples, o que significa que projetar assistentes de IA verdadeiramente úteis exige muito trabalho adicional, "Kaski diz.