De todos os assistentes virtuais fictícios que conhecemos da cultura pop, poucos resistem ao original e talvez o mais famoso:o HAL 9000 do filme de 1968 de Stanley Kubrick 2001:Uma Odisséia no Espaço.

Provavelmente deveríamos ser gratos por isso. Afinal, Alexa pode desligar suas luzes, mas ela não vai se voltar contra você e causar estragos em sua vida. Ou ela vai?

Amazon Alexa, Samsung Bixby, Google Assistant, Apple Siri, Cortana da Microsoft, IBM Watson e outros assistentes virtuais são anunciados como um cruzamento entre seu amigo, seu servo, seu companheiro e ajudante útil.

HAL nos apresenta algo mais sinistro, mas talvez mais realista. Enquanto as empresas de tecnologia consideram os assistentes virtuais essenciais para um melhor, vida facilitada, 2001:A Space Odyssey pergunta:a que custo?

O filme ilustra o ecossistema tecnológico que as empresas estão realmente competindo para possuir - aquele em que trocamos nossa privacidade por pequenas conveniências.

'Eu quero te ajudar' - HAL

Em 2001:A Space Odyssey, HAL é apresentado à tripulação de uma nave espacial como um deles. Mas com capacidades cognitivas muito além das de seus companheiros humanos, HAL é onipresente - e embutido na tecnologia que mantém a tripulação viva.

A tripulação confia na HAL, evitando privacidade por causa de sua ajuda no controle de todo o navio. Não ocorre a eles que as pessoas que projetaram o HAL podem não ter pensado nos interesses da tripulação. Ou que a lealdade de HAL é para o Controle da Missão e, além disso, sua programação.

Da mesma forma, embora seja claro que a função dos assistentes virtuais modernos é impulsionada pelo lucro, não é óbvio para o consumidor médio exatamente como sua presença está sendo monetizada. Os consumidores podem ser mais informados sobre sua privacidade online nos dias de hoje, no entanto, as consequências da intrusão do mundo virtual no físico não permearam adequadamente a consciência pública.

Permitir que uma máquina grave você 24 horas por dia, 7 dias por semana, em troca de conveniência, é um preço alto a pagar. Pode não parecer assim porque os assistentes virtuais usam o halo de confiança conquistado pelos outros serviços pelos quais são conhecidos - a pesquisa do Google é incomparável e a experiência de varejo da Amazon lidera o mercado global.

Como HAL, essas máquinas processam quantidades incríveis de dados. Tanto faz, que mesmo seus criadores não têm certeza de suas capacidades, ou como eles vão alcançar seu objetivo. O benefício comercial dos assistentes virtuais está na capacidade de prever seu comportamento por meio do que capturam, e criar oportunidades para transações. A mineração de big data para análises preditivas está na moda no mundo dos negócios.

Então, enquanto as empresas estão comercializando assistentes virtuais como seu "assistente", eles são na verdade o seu "analista".

'Eu pude ver seus lábios se movendo' - HAL

Em 2001:A Space Odyssey, a tripulação claramente nunca leu o "Guia de início rápido" da HAL. Eles não sabiam que ele podia mentir, e eles também não sabiam que ele podia ler os lábios. Quando a tripulação sai do navio para ter um momento de privacidade, As câmeras de HAL ainda podiam vê-los e entenderam a essência de sua conversa não tão particular. Em seguida, o empurrão veio para empurrar ... e bem, eventualmente, a tripulação acabou levando o empurrão.

Uma consequência não intencional de ter um assistente virtual à nossa disposição é que ele está sempre ouvindo, e também pode estar gravando. Sem surpresa, isso é exatamente o que a Amazon tem feito. Se as empresas estão gravando você em sua casa, deslizes como enviar gravações para a pessoa errada, liberar informações de forma não intencional, ou, acidentalmente, permitir que alguém ouça são inevitáveis.

Oh, e se você acredita que está protegido pelos termos e condições, você provavelmente está enganado. Mas tudo bem - como a tripulação de 2001:A Space Odyssey, você provavelmente não os entende ou lê de qualquer maneira.

'Receio não poder fazer isso, Dave '- HAL

Kubrick usou 2001 para ilustrar tecnologicamente, escravidão física e psicológica. HAL primeiro controla o ambiente físico e depois tenta exercer seu controle sobre o psicológico. Se repensarmos 2001:Uma Odisséia no Espaço com HAL como o herói, então ele está certo em matar a tripulação. Afinal, esses humanos incômodos são imprevisíveis porque provavelmente deixarão suas emoções atrapalharem a missão.

Se repensarmos nossas vidas com o Google como herói, bem então nós somos os "assistentes", ajudando o Google a obter os dados de que precisa para monitorar e prever melhor seu comportamento - para os acionistas.

Felizmente, a humanidade ainda tem tempo para se ajustar antes que as máquinas assumam totalmente o controle de nossas vidas em nome das empresas de tecnologia. Enquanto as pessoas ainda tiverem seus papagaios pedindo comida da Amazon, ficará claro para o público que confiar naquela máquina pode não ser uma boa ideia.

Ainda, a inteligência artificial melhora em um ritmo rápido. Eventualmente, teremos que decidir se queremos que a privacidade do consumidor triunfe, e acabar com o monitoramento constante de uma eclusa de ar.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.