Uma série de erros de privacidade nos últimos meses levantou novas preocupações sobre o futuro dos assistentes digitais controlados por voz, um mercado em crescimento visto por alguns como a próxima fronteira da computação.

Incidentes recentes envolvendo o Google, Os dispositivos Apple e Amazon destacam que, apesar do forte crescimento do mercado de alto-falantes e dispositivos inteligentes, mais trabalho é necessário para garantir aos consumidores que seus dados estão protegidos quando eles usam a tecnologia.

A Apple disse esta semana que estava suspendendo seu programa de "classificação de Siri", em que as pessoas ouvem trechos de conversas para melhorar a tecnologia de reconhecimento de voz, depois que o jornal britânico Guardian informou que os contratados estavam ouvindo informações médicas confidenciais, negociações criminais e até encontros sexuais.

"Estamos comprometidos em oferecer uma ótima experiência Siri ao mesmo tempo em que protegemos a privacidade do usuário, "A Apple disse em um comunicado, acrescentando que permitiria aos consumidores optar por esse recurso em uma atualização de software futura.

Enquanto isso, o Google disse que faria uma pausa para ouvir e transcrever conversas na União Europeia de seu Google Assistant após uma investigação de privacidade na Alemanha.

Amazonas, que também reconheceu que usa assistentes humanos para melhorar a inteligência artificial de seus dispositivos com Alexa, anunciou recentemente um novo recurso que torna mais fácil excluir todos os dados registrados.

Os casos recentes podem dar aos consumidores a impressão de que alguém está "ouvindo" suas conversas, mesmo que isso raramente seja verdade.

"Do ponto de vista da tecnologia, não é surpreendente que essas empresas usem humanos para anotar esses dados, porque a máquina não é boa o suficiente para entender tudo, "disse Florian Schaub, um professor da Universidade de Michigan especializado em interação humano-computador que fez pesquisas sobre assistentes digitais.

"O problema é que as pessoas não estão esperando por isso e não é comunicado de forma transparente."

Carolina Milanesi, um analista de tecnologia com estratégias criativas, concordaram que humanos são necessários para melhorar a tecnologia.

"As pessoas têm uma expectativa um tanto irreal de que esses assistentes irão, num passe de mágica, melhorar eventualmente, que eles podem fazer aprendizado de máquina e melhorar por conta própria, mas agora ainda estamos no início da IA, e a intervenção humana ainda é importante, " ela disse.

De acordo com a empresa de pesquisa eMarketer, quase 112 milhões de pessoas - um terço da população dos EUA - usarão um assistente de voz pelo menos uma vez por mês em qualquer dispositivo, com muitos usando dispositivos alimentados por IA para pesquisas, música e notícias ou informações.

Uma pesquisa da Microsoft este ano com consumidores em cinco países descobriu que 80% estavam satisfeitos com sua experiência com assistentes digitais. Mas 41 por cento dos entrevistados disseram ter preocupações com a privacidade, confiança e escuta passiva.

Medos infundados?

Alguns dos temores de privacidade que cercam os alto-falantes inteligentes são baseados em falsas suposições, nota dos analistas.

Os dispositivos não gravam ou transmitem informações até que sejam "ativados" com uma palavra-chave ou frase como "Ei, Siri "ou" Alexa ".

Mas "sempre há o risco de falsa ativação, "Schaub observou.

"Você tem que confiar no dispositivo e na empresa que o fabrica, pois o microfone está processando apenas localmente até que a palavra de ativação seja ouvida."

Ryan Calo, co-diretor docente do Laboratório de Políticas Tecnológicas da Universidade de Washington, disse que, embora os dispositivos não estejam ouvindo, permanecem preocupações sobre o acesso às conversas.

"Se os funcionários estão ouvindo coisas que não deveriam ter acesso, isso é realmente uma bandeira vermelha, é uma má prática, "Calo disse.

Fervendo o sapo

Calo disse que as preocupações com a privacidade em torno dos assistentes digitais devem crescer à medida que os dispositivos expandem suas capacidades.

"Eu me preocupo com uma tendência em que esses sistemas comecem a ouvir mais do que apenas seu comando afirmativo - eles poderiam ouvir vidros quebrados ou sinais de perigo, ou um bebê chorando. De repente, o sistema está ouvindo todos os tipos de coisas e o sapo é fervido ao aquecer gradualmente a água, " ele disse.

Calo também expressou preocupação de que os dispositivos possam ser ligados remotamente, uma ameaça potencial às liberdades civis.

"Se a polícia conseguir um mandado, pode transformar seu Echo em um dispositivo de escuta, " ele disse.

Schaub disse que os consumidores também estão preocupados que os dados dos dispositivos possam ser usados ​​para segmentação de anúncios.

"As pessoas querem esses benefícios, mas sem permitir que seus dados sejam usados ​​contra eles, " ele disse.

Ainda, o fascínio dos assistentes digitais significará que o mercado provavelmente continuará crescendo.

Schaub disse que uma forma de tranquilizar os consumidores seria construir recursos de privacidade diretamente em comandos de voz, para que os usuários possam entender como seus dados são usados ​​e fazer melhores escolhas.

"As empresas devem ver isso como uma oportunidade de se envolver com os clientes sobre como eles os protegem, " ele disse.

© 2019 AFP