O uso de inteligência artificial (IA), tecnologias que podem interagir com o meio ambiente e simular a inteligência humana, tem o potencial de mudar significativamente a forma como trabalhamos. A integração bem-sucedida da IA ​​nas organizações depende do nível de confiança dos funcionários na tecnologia. Uma nova revisão examinou duas décadas de pesquisa sobre como as pessoas desenvolvem confiança na IA. Os autores concluíram que a forma como a IA é representada, ou "incorporado, "e as capacidades da IA ​​contribuem para o desenvolvimento da confiança. Eles também propuseram uma estrutura que aborda os elementos que moldam a confiança cognitiva e emocional dos usuários na IA, que pode ajudar as organizações que o usam.

A revisão, por pesquisadores da Carnegie Mellon University e da Bar Ilan University, aparece em Anais da Academia de Gestão .

"A confiança que os usuários desenvolvem na IA será fundamental para determinar seu papel nas organizações, "explica Anita Williams Woolley, Professor Associado de Teoria e Comportamento Organizacional na Tepper School of Business da Carnegie Mellon University, que coautor do estudo. "Abordamos a natureza dinâmica da confiança explorando como a confiança se desenvolve para as pessoas interagindo com diferentes representações de IA (por exemplo, robôs, agentes virtuais, ou incorporado), bem como os recursos de IA que facilitam o desenvolvimento de confiança. "

Especificamente, os pesquisadores observaram o papel da tangibilidade (a capacidade de ser percebido ou tocado), transparência (o nível em que as regras operacionais e a lógica da tecnologia são evidentes para os usuários), e confiabilidade (se a tecnologia exibe o mesmo comportamento esperado ao longo do tempo). Eles também consideraram as características da tarefa (como julgamentos técnicos versus interpessoais são tratados) e comportamentos imediatos (gestos socialmente orientados destinados a aumentar a proximidade interpessoal, como escuta ativa e capacidade de resposta). Eles também analisaram o antropomorfismo (a percepção de que a tecnologia pode ter qualidades humanas).

Os autores pesquisaram no Google Scholar artigos sobre confiança humana em IA publicados entre 1999 e 2019, identificando cerca de 200 artigos revisados ​​por pares e anais de conferências. Os campos representados incluíam comportamento organizacional, interações homem-computador, interações robô-humano, sistemas de informação, tecnologia da Informação, e engenharia. Eles também usaram três bancos de dados para identificar 50 artigos adicionais. No fim, eles revisaram aproximadamente 150 artigos que apresentaram pesquisas empíricas sobre a confiança humana em IA.

Os autores descobriram que a representação da IA ​​desempenhou um papel importante na natureza da confiança cognitiva que as pessoas desenvolvem. Para IA robótica, a trajetória para o desenvolvimento da confiança assemelhava-se à criação de confiança nas relações humanas, começando baixo e aumentando após mais experiência. Mas para IA virtual e incorporada, ocorreu o oposto:a confiança inicial elevada diminuiu após a experiência.

Os autores também descobriram que o nível de inteligência da máquina que caracteriza a IA pode moderar o desenvolvimento de confiança cognitiva, com um alto nível de inteligência levando a uma maior confiança após o uso e a experiência. Para IA robótica, um alto nível de inteligência de máquina geralmente leva a um desenvolvimento mais rápido de um alto nível de confiança. Para IA virtual e incorporada, a alta inteligência da máquina ofereceu a possibilidade de manter os altos níveis iniciais de confiança. A transparência também foi um fator importante para estabelecer confiança cognitiva na IA virtual e incorporada, embora a relação entre confiabilidade e o desenvolvimento da confiança na IA fosse complexa.

O antropomorfismo foi especialmente importante para o desenvolvimento da confiança emocional, mas seu efeito difere dependendo da forma de IA. Para IA virtual, o antropomorfismo teve um efeito positivo. Para IA robótica, os efeitos foram mistos:as pessoas tendem a gostar mais de robôs antropomórficos do que de robôs de aparência mecânica, mas esses robôs parecidos com humanos também podem evocar desconforto e uma sensação de estranhamento.

Fatores que influenciam a confiança emocional diferem daqueles que influenciam a confiança cognitiva, e alguns fatores podem ter implicações diferentes para cada um, concluíram os autores.

Como um guia para integrar IA ao trabalho das organizações, os autores propuseram uma estrutura. Eles consideraram a forma em que a IA foi usada, o nível de inteligência da máquina, comportamentos como capacidade de resposta, e confiabilidade como fatores que influenciaram como as pessoas desenvolveram confiança na IA, tanto cognitiva quanto emocionalmente.

"A confiança pode prever o nível de confiança na tecnologia, enquanto o nível de correspondência entre a confiança de alguém e as capacidades da tecnologia, conhecido como calibração, pode influenciar como a tecnologia é usada, "diz Ella Glikson, Professor Assistente da Escola de Graduação em Administração de Empresas da Universidade Bar Ilan, que coautor do estudo.