Alguns poucos anos atrás, assistentes pessoais digitais como Alexa, da Amazon, O Siri e o Google Assistant da Apple pareciam futuristas. Agora, o futuro está aqui e este futuro está embutido, aumentada e onipresente.

Assistentes digitais podem ser encontrados em seu escritório, casa, carro, hotel, telefone e muitos outros lugares. Recentemente, eles passaram por uma grande transformação e funcionam em sistemas operacionais alimentados por inteligência artificial (IA). Eles observam e coletam dados em tempo real e têm a capacidade de extrair informações de diferentes fontes, como dispositivos inteligentes e serviços em nuvem, e contextualizar as informações usando IA para dar sentido à situação. Embora tenhamos percorrido um longo caminho no design e execução dessas tecnologias de IA, ainda há mais trabalho a ser feito nesta área.

Muitos dos dados que esses assistentes digitais coletam e usam incluem dados pessoais, informações potencialmente identificáveis ​​e possivelmente sensíveis. Alexa ou outros assistentes digitais pessoais podem violar a privacidade e a segurança de nossos dados? Possivelmente. Existe um lado negro para esses assistentes virtuais.

Minha especialidade é em privacidade de dados, governança de dados e inteligência artificial. Anteriormente, fui o Oficial de Informação e Privacidade do Escritório do Comissário de Informação e Privacidade de Ontário.

Serviço de boas-vindas

Imagine a seguinte situação.

Você está esperando alguns convidados. Seu primeiro convidado chega, e a câmera de segurança externa em sua varanda a captura caminhando até sua casa. Uma voz educada a acolhe e destranca a porta. Uma vez que ela está dentro, seu assistente digital explica ao seu convidado que você está a caminho e estará em casa em breve. Através do seu sistema de áudio doméstico, seu assistente digital reproduz uma seleção das músicas favoritas de seus convidados (da rede de amigos do Spotify). Seu assistente digital pergunta a seu convidado se o tempero de abóbora ainda é o sabor preferido do café ou se ela prefere outros:baunilha francesa ou colombiano. Logo depois, seu convidado pega o café na máquina de café digital. Tarefas de boas-vindas agora concluídas, seu assistente digital fica em silêncio, e enquanto espera por você, seu convidado faz alguns telefonemas.

É fascinante como um assistente digital pode validar com precisão e de forma autônoma a identidade do seu convidado, selecione suas canções favoritas, lembre-se de seu sabor preferido de café e gerencie os eletrodomésticos inteligentes em sua casa.

Assistentes de hospedagem

Mas o comportamento do seu assistente digital preocupa você?

Assistentes digitais podem gravar nossas conversas, imagens e muitas outras informações pessoais confidenciais, incluindo localização através de nossos smartphones. Eles usam nossos dados para aprendizado de máquina para melhorar ao longo do tempo. Seu software é desenvolvido e mantido por empresas que estão constantemente pensando em novas maneiras de coletar e usar nossos dados.

Semelhante a outros programas de computador, o problema fundamental com esses assistentes digitais é que eles são vulneráveis ​​a falhas técnicas e de processo. Assistentes digitais também podem ser hackeados remotamente, resultando em violações da privacidade dos usuários.

Por exemplo, um casal de Oregon teve que desconectar seu dispositivo Alexa, Assistente virtual da Amazon, já que sua conversa particular foi gravada e enviada a um de seus amigos em sua lista de contatos.

Em outro incidente, um alemão recebeu acidentalmente acesso a 1, 700 arquivos de áudio Alexa pertencentes a um completo estranho. Os arquivos revelaram o nome da pessoa, hábitos, empregos e outras informações confidenciais.

Privilégio de consciência

A crescente popularidade e disponibilidade de assistentes pessoais digitais resultou no aumento da chamada exclusão digital. O paradoxo interessante é que os indivíduos que estão cientes e são sensíveis às questões de privacidade geralmente limitam o uso de ferramentas digitais, enquanto os usuários menos propensos a proteger amplamente sua privacidade incorporam assistentes pessoais em suas vidas digitais.

Assistentes digitais gravam dados continuamente ou aguardam uma palavra para "despertar" ou serem ativados. Eles não limitam a coleta de dados às informações dos proprietários ou usuários autorizados. Assistentes digitais pessoais podem coletar e processar dados pessoais de usuários não aprovados, como suas vozes.

Na sociedade digitalmente dividida, alguém que entende de privacidade não convidaria esse tipo de equipamento para sua vida, enquanto outros podem aceitar ou racionalizar tais comportamentos.

Respeitando a privacidade dos outros

Nesta era de dispositivos onipresentes e acesso à Internet, como devemos lidar com esse paradoxo e respeitar o espaço e as escolhas de cada um?

Vamos revisitar nosso assistente digital pessoal imaginário. Ele precisava processar diferentes fontes de informação sobre o hóspede para funcionar como um host inteligente. O assistente digital usou todos esses dados para alimentar os algoritmos ou para invadir a privacidade do hóspede? Dependendo de quem você perguntar, a resposta será diferente.

Nossa educação com consciência de etiqueta nos diz que temos a responsabilidade social e ética de respeitar os valores uns dos outros quando se trata de tecnologias digitais. Mas as implicações e o crescimento dessas tecnologias foram tão significativos e rápidos que ainda não fomos capazes de redefinir nossas normas e expectativas sociais.

Por exemplo, como hospedeiro, temos uma obrigação ética para com os nossos hóspedes de informá-los sobre o nosso assistente digital pessoal? É educado para um visitante domiciliar pedir ao anfitrião para desligar suas ferramentas digitais? Devemos perguntar sobre a presença de ferramentas inteligentes e assistentes digitais antes de chegar na casa de um amigo, um hotel ou um AirBnB?

A resposta a essas perguntas é sim, de acordo com o especialista em etiqueta Daniel Post Senning. Senning explica que a etiqueta é mais poderosa quando você a usa como uma ferramenta de autoavaliação. Gostaríamos de ser informados de que estamos sendo gravados em uma reunião de negócios ou em uma reunião privada? Ou como preferimos ser solicitados a desligar as ferramentas digitais se estivermos hospedando? As regras de etiqueta são universais:ser atencioso, honesto e gentil.

Informe seus colegas e convidados que seus dispositivos digitais podem gravar suas vozes, imagens ou outras informações. Peça ao seu anfitrião para desligar os assistentes digitais se você não se sentir confortável em tê-los por perto. Mas seja atencioso. Você pode não querer pedir ao seu anfitrião para desligar os assistentes digitais na presença de alguém que seja idoso ou portador de deficiência e dependa dessas ferramentas.

Mantendo nossa privacidade coletiva

A privacidade é uma norma social que devemos trabalhar juntos para mantê-la. Em primeiro lugar, precisamos nos educar sobre a segurança cibernética e os riscos potenciais das tecnologias digitais. Devemos também ser proativos em nos manter atualizados com as últimas notícias sobre tecnologias e tomar medidas quando necessário.

O papel do governo neste paradigma complexo é crítico. Precisamos de leis de privacidade mais rígidas para tratar de questões de privacidade associadas a assistentes digitais pessoais. Agora mesmo, empresas como a Amazon, Google e Apple estão fazendo as regras.

Outras jurisdições desenvolveram e implementaram regulamentos como o Regulamento Geral de Proteção de Dados da Europa (GDPR), que fornece supervisão sobre a coleta de dados para uma ampla variedade de dispositivos domésticos. O Canadá deve seguir o exemplo.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.