Com respostas de e-mail de autocorreção e geração automática, os algoritmos oferecem muita assistência para ajudar as pessoas a se expressarem.
Mas uma nova pesquisa da Universidade da Geórgia mostra que as pessoas que confiam em algoritmos de computador para assistência com tarefas criativas relacionadas à linguagem não melhoraram seu desempenho e eram mais propensas a confiar em conselhos de baixa qualidade.

Aaron Schecter, professor assistente de sistemas de informações gerenciais no Terry College of Business, publicou seu estudo "Preferências humanas em relação a conselhos algorítmicos em uma tarefa de associação de palavras" publicado este mês no Scientific Reports . Seus co-autores são Nina Lauharatanahirun, professora assistente de saúde biocomportamental na Universidade Estadual da Pensilvânia, e recente Terry College Ph.D. graduado e atual professor assistente da Northeastern University Eric Bogert.

O artigo é o segundo na investigação da equipe sobre a confiança individual em conselhos gerados por algoritmos. Em um artigo de abril de 2021, a equipe descobriu que as pessoas dependiam mais de conselhos algorítmicos para contar tarefas do que de conselhos supostamente dados por outros participantes.

Este estudo teve como objetivo testar se as pessoas acataram os conselhos de um computador ao lidar com tarefas mais criativas e dependentes de linguagem. A equipe descobriu que os participantes eram 92,3% mais propensos a usar conselhos atribuídos a um algoritmo do que a receber conselhos atribuídos a pessoas.

"Esta tarefa não exigia o mesmo tipo de pensamento (como a tarefa de contagem no estudo anterior), mas na verdade vimos os mesmos vieses", disse Schecter. “Eles ainda usariam a resposta do algoritmo e se sentiriam bem com isso, mesmo que isso não os ajudasse a melhorar”.

Usando um algoritmo durante a associação de palavras

Para ver se as pessoas confiariam mais em conselhos gerados por computador para tarefas relacionadas à linguagem, Schecter e seus coautores deram a 154 participantes on-line partes do Remote Associates Test, um teste de associação de palavras usado por seis décadas para avaliar a criatividade de um participante.

“Não é pura criatividade, mas a associação de palavras é um tipo de tarefa fundamentalmente diferente do que fazer uma projeção de estoque ou contar objetos em uma foto porque envolve linguística e a capacidade de associar ideias diferentes”, disse ele. "Pensamos nisso como mais subjetivo, embora haja uma resposta certa para as perguntas."

Durante o teste, os participantes foram solicitados a criar uma palavra ligando três palavras de amostra. Se, por exemplo, as palavras fossem base, quarto e boliche, a resposta seria bola.

Os participantes escolheram uma palavra para responder à pergunta e receberam uma dica atribuída a um algoritmo ou uma dica atribuída a uma pessoa e tiveram permissão para alterar suas respostas. A preferência por conselhos derivados de algoritmos foi forte apesar da dificuldade da pergunta, da forma como o conselho foi formulado ou da qualidade do conselho.

Os participantes que seguiram o conselho do algoritmo também foram duas vezes mais confiantes em suas respostas do que as pessoas que usaram o conselho da pessoa. Apesar de sua confiança em suas respostas, eles eram 13% menos propensos do que aqueles que usaram conselhos baseados em humanos para escolher as respostas corretas.

"Não vou dizer que o conselho estava piorando as pessoas, mas o fato de elas não terem se saído melhor, mas ainda assim se sentirem melhor com suas respostas, ilustra o problema", disse ele. "A confiança deles aumentou, então eles provavelmente usarão conselhos algorítmicos e se sentirão bem com isso, mas não estarão necessariamente certos.

Você deve aceitar a correção automática ao escrever um e-mail?

"Se eu tiver uma função de preenchimento automático ou autocorreção em meu e-mail em que acredito, talvez não esteja pensando se ela está me tornando melhor. Vou usá-la apenas porque me sinto confiante em fazê-lo."

Schechter e colegas chamam essa tendência de aceitar conselhos gerados por computador sem atentar para sua qualidade como viés de automação. Entender como e por que os tomadores de decisão humanos adiam o software de aprendizado de máquina para resolver problemas é uma parte importante para entender o que pode dar errado nos locais de trabalho modernos e como remediar.

“Muitas vezes, quando estamos falando sobre se podemos permitir que algoritmos tomem decisões, ter uma pessoa no circuito é a solução para evitar erros ou resultados ruins”, disse Schecter. “Mas essa não pode ser a solução se as pessoas forem mais propensas a adiar o que o algoritmo aconselha”. + Explorar mais

As pessoas podem confiar mais em computadores do que em humanos