p Nesta era de informação - e desinformação -, os avanços na tecnologia estão nos desafiando a repensar como a linguagem funciona. p Faça chatbots de conversação, por exemplo. Esses programas de computador imitam a conversa humana por meio de texto ou áudio. A empresa de colchões Casper criou o Insomnobot-3000 para se comunicar com pessoas que têm distúrbios do sono. Dá àqueles que têm problemas para dormir a oportunidade de falar com "alguém" enquanto todos estão dormindo.

p Mas o Insomnobot-3000 não apenas bate papo com seus usuários, respondendo a perguntas. Tem como objetivo reduzir a solidão sentida pelas pessoas que sofrem de insônia. Suas palavras têm o potencial de causar impacto no usuário humano.

p Em sua forma mais básica, a linguagem faz coisas com as palavras. É uma forma de ação que faz mais do que simplesmente enunciar fatos.

p Esta observação bastante direta foi feita na década de 1950 por um filósofo obscuro e ligeiramente excêntrico da Universidade de Oxford, John Langshaw Austin. Em seu livro, Como fazer coisas com palavras , Austin desenvolveu o conceito de linguagem performativa.

p O que Austin quis dizer é que a linguagem não apenas descreve as coisas, ele realmente "atua". Por exemplo, se eu disser que deixo o colar de pérolas da minha avó para a minha filha, Estou fazendo mais do que simplesmente descrever ou relatar algo. Estou fazendo uma ação significativa.

p Austin também classificou o discurso em três partes:Significado, uso e impacto. Seu estudo e descobertas sobre a linguagem tornaram-se conhecidos como teoria dos atos de fala. Esta teoria era importante não só na filosofia, mas também em outras áreas, como direito, literatura e pensamento feminista.

p Uma receita para a indústria de chatbot

p Com isso em mente, O que a teoria de Austin pode nos dizer sobre os chatbots de conversação de hoje?

p Minha pesquisa se concentra na interseção da lei e da linguagem, e o que a teoria de Austin tem a dizer sobre nossa compreensão de como a maquinaria criativa está mudando as operações sociais tradicionais, como IA escrevendo romances, repórteres-robôs escrevendo artigos de notícias, cursos online abertos massivos (MOOCs) substituindo salas de aula e professores por software de avaliação de redação.

p A tecnologia atual do chatbot está focada em melhorar a capacidade dos chatbots de imitar o significado e o uso da fala. Um bom exemplo disso é o Cleverbot.

p Mas a indústria do chatbot deve se concentrar no terceiro aspecto da teoria de Austin - determinar o impacto da fala do chatbot sobre a pessoa que o usa.

p Certamente, se formos capazes de ensinar chatbots a imitar o significado e o uso da fala humana, devemos também ser capazes de ensiná-los a imitar seu impacto?

p Aprendendo a ter uma conversa

p Os chatbots mais recentes contam com aprendizado de máquina de ponta, conhecido como aprendizado profundo.

p O aprendizado de máquina é um aplicativo de IA que pode aprender sem a ajuda humana. Aprendizagem profunda, que é modelado a partir da rede de neurônios do cérebro humano, leva o aprendizado de máquina ainda mais longe. Os dados são alimentados em redes neurais artificiais profundas que são projetadas para imitar a tomada de decisão humana.

p Os chatbots projetados com essa tecnologia de rede neural não apenas repetem o que é dito ou produzem respostas enlatadas. Em vez de, eles aprendem como ter uma conversa.

p Os chatbots analisam grandes quantidades de fala humana, e, em seguida, tomar decisões sobre como responder após avaliar e classificar o quão bem as possibilidades refletem esse discurso. No entanto, apesar dessas melhorias, esses novos bots ainda sofrem de gafe ocasionais, já que se concentram principalmente no significado e no uso de sua fala.

p Os chatbots anteriores eram muito piores. Em menos de 24 horas após o lançamento no Twitter em 2016, Chatbot da Microsoft, um sistema de IA chamado Tay (uma abreviatura formada de "Thinking About You") e modelado a partir dos padrões de linguagem de uma adolescente, tinha mais de 50, 000 seguidores e produziu mais de 100, 000 tweets.

p Enquanto Tay cumprimentava o mundo, seus primeiros tweets eram inocentes o suficiente. Mas então ela começou a imitar seus seguidores.

p Ela rapidamente se tornou uma racista, chatbot sexista e absolutamente desagradável. A Microsoft foi forçada a colocá-la offline.

p Tay dependia inteiramente dos dados que eram fornecidos a ela - e, mais importante, nas pessoas que estavam criando e moldando esses dados. Ela não entendia o que os usuários humanos estavam "fazendo" com a linguagem. Ela também não entendeu os efeitos de seu discurso.

p Ensinando chatbots a coisa errada

p Alguns pesquisadores acreditam que quanto mais dados os chatbots adquirem, menos ofensa eles causarão.

p Mas a contabilização de todas as respostas possíveis para uma determinada pergunta pode levar muito tempo ou depender de muito poder de computação. Mais, essa solução de reunir mais dados sobre significado e uso é, na verdade, apenas história se repetindo. "Zo, da Microsoft "um sucessor de Tay, ainda luta com questões difíceis sobre política.

p Simplificando, a indústria do chatbot está indo na direção errada - a indústria do chatbot está ensinando a coisa errada aos chatbots.

p Chatbots transformativos

p Um chatbot melhor não olharia apenas para o significado e uso das palavras, mas também as consequências do que diz.

p A fala também funciona como uma forma de ação social. No livro dela Problemas de gênero , A filósofa Judith Butler observou a performatividade da linguagem e como ela aumenta nossa compreensão do gênero. Ela viu o gênero como algo que se faz, em vez de algo que alguém é - que é construído por meio da fala e dos gestos do dia-a-dia.

p Os chatbots de conversação destinam-se a públicos diversos. Focar no efeito da fala pode melhorar a comunicação, já que o chatbot também se preocupa com o impacto de suas palavras.

p Em uma indústria de tecnologia desafiada por sua falta de diversidade e inclusão, tal chatbot pode ser transformador, como Butler nos mostrou na construção do gênero.

p Há, claro, uma advertência. Focar no impacto da linguagem é o traço definidor dos boatos, propaganda e desinformação - "notícias falsas" - um ato de discurso deliberadamente arquitetado, preocupada apenas em alcançar o efeito. Não importa sua forma, notícias falsas simplesmente imitam o jornalismo e são criadas apenas para produzir um efeito.

p A teoria da performatividade na linguagem de Austin nos ajudou a descobrir como falar uns com os outros.

p A indústria de chatbot deve concentrar seus esforços agora no impacto da fala, além do trabalho já realizado sobre o significado e uso das palavras. Pois um chatbot só pode ser verdadeiramente coloquial se se envolver em todos os aspectos de um ato de fala. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.