Em um mercado online como o Airbnb, perfis de host podem significar a diferença entre um quarto reservado e um vago. Muito animado, demasiado longo, muitos pontos de exclamação? O idioma é fundamental na busca de um usuário por confiança e autenticidade, fatores cruciais em qualquer troca online.

Com tanto em jogo, Os anfitriões do Airbnb devem confiar em um algoritmo para escrever seus perfis para eles?

Depende, de acordo com uma nova pesquisa da Cornell and Stanford University. Se todos usarem perfis gerados por algoritmos, os usuários confiam neles. Contudo, se apenas alguns hosts escolherem delegar responsabilidades de escrita à inteligência artificial, eles provavelmente serão desconfiados. Os pesquisadores chamaram isso de "efeito replicante" - uma homenagem ao filme "Blade Runner".

"Os participantes procuravam pistas que parecessem mecânicas em comparação com a linguagem que parecesse mais humana e emocional, "disse Maurice Jakesch, estudante de doutorado em ciência da informação na Cornell Tech e autor principal de "AI-Mediated Communication:How the Perception that Profile Text was Written by AI Affects Trustworthiness", ", que será apresentado na Conferência ACM sobre Fatores Humanos em Sistemas Computacionais, 4 a 9 de maio em Glasgow, Escócia.

"Eles tinham suas próprias teorias sobre como seria um perfil gerado por IA, "Jakesch disse." Se houvesse erros graves de grafia em um perfil, eles diriam que é mais humano, ao passo que se o perfil de alguém parecesse desconexo ou sem sentido, eles presumiram que era IA. "

A IA pretende revolucionar as tecnologias de linguagem natural e como os humanos interagem uns com os outros. As pessoas já experimentam alguma comunicação mediada por IA:o Gmail verifica o conteúdo de nossos e-mails que chegam e gera sugestões, respostas inteligentes com um clique, "e uma nova geração de auxiliares de escrita não apenas corrige nossos erros de ortografia, mas aprimora nosso estilo de escrita.

"Estamos começando a ver os primeiros exemplos de inteligência artificial operando como um mediador entre os humanos, mas é uma questão de:'As pessoas querem isso?' ", disse Jakesch." Podemos nos deparar com uma situação em que a comunicação mediada por IA seja tão difundida que se torne parte de como as pessoas avaliam o que veem online. "

No estudo, pesquisadores procuraram explorar se os usuários confiam em representações otimizadas ou geradas por algoritmos, particularmente em mercados online. A equipe conduziu três experimentos, alistando centenas de participantes no Amazon Mechanical Turk para avaliar o real, perfis do Airbnb gerados por humanos. Em alguns casos, os participantes foram levados a acreditar que alguns ou todos os perfis foram gerados por um sistema automatizado de IA. Os participantes foram então solicitados a dar a cada perfil uma pontuação de confiabilidade.

Quando informados de que estavam visualizando todos os perfis gerados por humanos ou todos os gerados por IA, os participantes não pareciam confiar mais em um do que no outro. Eles classificaram os perfis gerados por humanos e por IA da mesma forma.

Mas isso mudou quando os participantes foram informados de que estavam visualizando um conjunto misto de perfis. Deixou de decidir se os perfis que estavam lendo foram escritos por um humano ou um algoritmo, os usuários não confiavam naqueles que acreditavam ser gerados por máquina.

"Quanto mais participantes acreditavam que um perfil era gerado por IA, quanto menos eles tendiam a confiar no hospedeiro, mesmo que os perfis que eles classificaram tenham sido escritos pelos hosts reais, "escreveram os autores.

O que há de tão ruim em usar a comunicação mediada por IA? Como disse um participante do estudo, Perfis gerados por IA "podem ser úteis, mas também um pouco preguiçosos. O que me faz questionar sobre o que mais eles serão preguiçosos."

À medida que a IA se torna mais comum e poderosa, diretrizes fundamentais, a ética e a prática tornam-se vitais, disseram os pesquisadores. Suas descobertas sugerem que há maneiras de projetar ferramentas de comunicação de IA que aumentam a confiança dos usuários humanos. Para iniciantes, Jakesch disse, as empresas poderiam adicionar um emblema em todos os textos produzidos pela AI, como alguns meios de comunicação já usam em conteúdo criado por algoritmo. As diretrizes e normas de design e política para o uso de comunicação mediada por IA valem a pena explorar agora, ele adicionou.

"O valor dessas tecnologias vai depender de como são projetadas, como eles são comunicados às pessoas e se somos capazes de estabelecer um ecossistema saudável ao seu redor, "ele disse." Isso vem com uma série de novas questões éticas:É aceitável que meu assistente algorítmico gere uma versão mais eloquente de mim? Há algum problema em um algoritmo dizer boa noite aos meus filhos em meu nome? Essas são questões que precisam ser discutidas. "

O artigo foi escrito em coautoria com Mor Naaman, professor associado de ciência da informação no Jacobs Technion-Cornell Institute em Cornell Tech; Xiao Ma, estudante de doutorado em ciência da informação na Cornell Tech; e Megan French e Jeffrey T. Hancock de Stanford.