Alto-falantes inteligentes equipados com assistentes de voz digital como Siri e Alexa são agora a tecnologia de consumo que mais cresce desde o smartphone.

Quase 100 milhões foram vendidos apenas em 2018, um aumento de três vezes em relação ao ano anterior. E em nenhum lugar esse crescimento é mais rápido do que na Austrália.

Mas devemos nos preocupar com o que esses alto-falantes inteligentes estão realmente ouvindo. É mais do que apenas nossos comandos de voz para tocar uma peça ou música ou desligar as luzes.

Precisamos pensar cuidadosamente sobre para onde esse tipo de tecnologia está indo. Muito em breve não serão apenas nossos alto-falantes inteligentes ouvindo, mas todos os outros dispositivos também.

Sistemas de segurança que escutam o som de tiros ou vidros quebrados, Câmeras CCTV equipadas com microfones, vigilância auditiva no trabalho, e uma gama crescente de outros dispositivos são todos motivo de preocupação.

Pega rápida

No final de 2018, a porcentagem de adultos australianos com um alto-falante inteligente aumentou de zero para 29% em apenas 18 meses, de acordo com o Relatório de Adoção do Consumidor de Oradores Inteligentes da Austrália lançado este mês. O relatório foi um trabalho conjunto do site de notícias de tecnologia e Voicebot e consultores digitais FIRST.

Com base em uma pesquisa com 654 australianos, o relatório estima que cerca de 5,7 milhões de australianos agora possuem alto-falantes inteligentes em uma população adulta total de cerca de 19,3 milhões.

A base de usuários australiana em relação à população agora excede a dos EUA (26%), apesar dos dispositivos estarem disponíveis aqui por menos da metade do tempo.

Se a tendência de alta continuar - a Deloitte espera que o mercado valha pelo menos US $ 7 bilhões em 2019, até 63% em 2018 - os alto-falantes inteligentes em breve serão ainda mais comuns.

Eles já estão em nossas casas e locais de trabalho, hotéis, hospitais e universidades.

Também estamos cada vez mais confortáveis ​​em falar com nossa tecnologia, de acordo com o relatório de adoção do consumidor:"Mais de 43% dos proprietários australianos de alto-falantes inteligentes dizem que, desde a aquisição dos dispositivos, estão usando assistentes de voz com mais frequência em smartphones."

Não estamos mais surpresos ao descobrir que podemos falar com nossos telefones, carros, televisores, relógios, até mesmo nossas bonecas Barbie, e espere uma resposta.

E quanto à privacidade?

Mas o recente relatório ao consumidor também diz que os australianos se preocupam com esses palestrantes. Quase dois terços das pessoas entrevistadas disseram ter algum nível de preocupação com os riscos de privacidade representados pela tecnologia de alto-falantes inteligentes - 17,7% disseram que estavam "muito preocupados".

O relatório não especifica quais são essas preocupações. Talvez estejamos preocupados com as gravações de nossas conversas sendo enviadas por e-mail para colegas sem nosso conhecimento ou consentimento, ou admitido como prova em tribunal.

Mas acredito que estamos muito menos preocupados do que deveríamos com o próximo rumo dessa indústria. Alto-falantes inteligentes não estão apenas ouvindo o que nós dizemos. Cada vez mais, eles também estão ouvindo Como as e Onde nós dizemos isso.

Eles estão ouvindo nossa biometria vocal, de como gaguejamos e pausamos, ao nosso tom de voz, sotaque e humor, ao nosso estado de bem-estar, ao tamanho e formato da sala em que estamos sentados, e para os ruídos do ambiente, música e programas de TV em segundo plano. Tudo com o propósito de extrair mais e mais dados sobre quem somos e que tipo de coisas fazemos.

Quem está ouvindo?

Ainda mais importante, no entanto, o rápido crescimento dos alto-falantes inteligentes anuncia a próxima era da escuta automática, onde podemos esperar que todos os tipos de dispositivos em rede possam ouvir, processando e respondendo de forma autônoma aos nossos ambientes auditivos:ouvindo o som e a fala, com e sem nosso consentimento, praticamente o tempo todo.

Analítico de áudio, uma das empresas mais proeminentes nesta área, afirma em seu site:"Temos a missão de dar a todas as máquinas um sentido de audição [...]"

Isso é muito menos rebuscado do que parece. O software carro-chefe da Audio Analytic, ai3TM, afirma ser capaz de reconhecer "um grande número de eventos de áudio e cenas acústicas", com o objetivo de permitir que os dispositivos entendam e respondam aos ambientes sonoros por si próprios.

Já, isso inclui fones de ouvido que sabem quando alguém está falando com você e podem ajustar o volume de acordo; carros que se ajustam autonomamente ao som de buzinas; sistemas de segurança capazes de identificar o som de argumentos se formando, janelas quebrando, bem como outras anomalias acústicas. Os sistemas podem então responder autonomamente ou notificar as autoridades relevantes.

Outra companhia, Sistemas de detecção de atiradores, vende tecnologia para a detecção autônoma de situações de atiradores ativos, incluindo tiros de arma de fogo. Seu chamado Sistema Guardian pode localizar rapidamente a localização de qualquer tiro e emitir alertas.

De uma forma semelhante, mas ainda mais preocupante, Risco Global AC, alegadamente afirma ser capaz de determinar o nível de risco potencial de alguém com mais de 97% de precisão simplesmente analisando as "características" de alguns minutos de sua voz falada.

O Walmart patenteou recentemente uma nova métrica de desempenho do funcionário com base na análise algorítmica de dados de áudio (padrões de fala do funcionário, o farfalhar de bolsas, sons de carrinhos, passos e assim por diante) coletados de microfones instalados em terminais e outros locais em suas lojas.

Em 2017, O conselho regional de Moreton Bay, em Queensland, introduziu dispositivos de escuta contínua para 330 câmeras CCTV em toda a sua área de conselho, uma medida que o prefeito disse foi para ajudar a polícia a combater o crime. O conselho diz que desativou os dispositivos de escuta no final daquele ano, depois que as preocupações foram levantadas.

Soe o aviso

Cada um desses exemplos levanta questões complexas de ética, lei e política.

Os tipos de perguntas que começamos recentemente a fazer sobre toda IA ​​- sobre as possibilidades de sobrealcance algorítmico, tendência, perfilando, discriminação e vigilância - tudo isso também precisa ser perguntado a alto-falantes inteligentes.

Mas também é importante entender as maneiras pelas quais os alto-falantes inteligentes são conectados a um campo muito mais amplo de escuta mecânica e vigilância auditiva, com o qual muitos estão justamente preocupados.

A escuta automática não está apenas chegando, já está aqui e exige nossa atenção.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.