A maioria de nós conhece plataformas de tecnologia, como Facebook e Google track, armazene e ganhe dinheiro com nossos dados. Mas há constantemente novas revelações sobre o quanto de nossa privacidade foi destruída.

O mais recente vem do Wall Street Journal, que lançou uma bomba na sexta-feira, quando seus testes revelaram que muitos aplicativos populares de smartphones têm enviado dados pessoais para o Facebook. Isso inclui dados de aplicativos de monitoramento de frequência cardíaca e acompanhamento de período:"Flo Health Inc.'s Flo Period &Ovulation Tracker, que afirma 25 milhões de usuários ativos, disse ao Facebook quando uma usuária estava menstruada ou informou o aplicativo sobre a intenção de engravidar, os testes mostraram. "

Quando usamos tecnologias que rastreiam nossos dados, entramos em um sistema governado por algoritmos. E quanto mais informações entregamos, mais nos tornamos entrelaçados com sistemas algorítmicos que não controlamos.

Precisamos urgentemente de proteções que cuidem de nossos interesses pessoais neste sistema. Propomos o conceito de "guardiões algorítmicos" como uma solução eficaz.

Como funcionam os algoritmos de rastreamento de dados?

Diário, sem nosso conhecimento, empresas de tecnologia usam nossos dados para prever nossos hábitos, preferências e comportamento. Algoritmos que operam por trás de tudo, desde sistemas de recomendação de música a sistemas de segurança doméstica de reconhecimento facial, usam esses dados para criar uma versão dupla digital de nós.

Recebemos conteúdo e publicidade com base no que o algoritmo decidiu que queremos e precisamos, sem explicar como chegou a essa decisão, ou permitindo-nos qualquer contribuição para o processo de tomada de decisão.

E nossos interesses provavelmente vêm em segundo lugar para aqueles que desenvolveram o algoritmo.

Ao contrário do que o conceito sugere, não controlamos diretamente a "personalização", e quase não temos como proteger nossa autonomia nessas transações de dados e na tomada de decisões.

O que é um 'guardião algorítmico'?

Propusemos o conceito de guardiões algorítmicos, que pode ser programado para gerenciar nossas interações digitais com plataformas sociais e aplicativos de acordo com nossas preferências pessoais.

Eles são concebidos como bots, assistentes pessoais ou tecnologia de holograma que nos acompanham em todos os lugares onde nos aventuramos online, e nos alertar sobre o que está acontecendo nos bastidores.

Esses guardiões são algoritmos, mas eles trabalham apenas para nós. Como software antivírus de computador, aqueles que não protegerem os usuários sairão do mercado, enquanto aqueles que ganham a reputação de guardiões de confiança terão sucesso.

Em termos práticos, nossos guardiões nos tornariam reconhecíveis ou anônimos quando quisermos ser. Eles também alterariam nossa identidade digital de acordo com nossos desejos, para que pudéssemos usar diferentes serviços com diferentes conjuntos de preferências pessoais. Nossos responsáveis ​​mantêm nossos dados pessoais em nossas mãos, garantindo que nossos backups e senhas estejam seguros. Nós decidiríamos o que é lembrado e o que é esquecido.

Um guardião algorítmico iria:

• avise-nos se nossa localização, atividade online ou conversas estavam sendo monitoradas ou rastreadas, e nos dê a opção de desaparecer
• ajude-nos a entender os pontos relevantes de termos e condições longos e complicados quando nos inscrevemos em um serviço online
• dê-nos uma explicação simples quando não entendemos o que está acontecendo com nossos dados entre o nosso computador, registros telefônicos e as dezenas de aplicativos em execução em segundo plano em nossos telefones
• avise-nos se um aplicativo estiver enviando dados de nossos telefones para terceiros, e nos dá a opção de bloqueá-lo em tempo real
• diga-nos se nossos dados foram monetizados por terceiros e para que serviam.

Imaginamos guardiões algorítmicos como a próxima geração de assistentes pessoais atuais, como Siri, Alexa ou Watson. Graças à tecnologia vestível e modelos avançados de interação humano-computador, eles estarão constante e facilmente acessíveis.

Nossos guardiões digitais não precisam ser inteligentes da mesma forma que os humanos. Em vez disso, eles precisam ser inteligentes em relação ao ambiente em que habitam - reconhecendo e entendendo os outros algoritmos que encontram.

Em todo o caso, mesmo que os guardiões algorítmicos (ao contrário dos algoritmos de terceiros) sejam propriedade do usuário e estejam totalmente sob nosso controle, ser capaz de entender como eles funcionam será uma prioridade para torná-los totalmente confiáveis.

Quando chegarão os guardiões algorítmicos?

A tecnologia para habilitar guardiões algorítmicos está surgindo neste momento. O que está ficando para trás é a percepção generalizada de que precisamos disso.

Você pode ver versões primitivas da tecnologia de guardiões algorítmicos em cofres digitais para armazenar e gerenciar senhas, e em configurações de software que nos dão algum controle sobre como nossos dados são usados.

O aprendizado de máquina explicável é um tópico importante no momento, mas ainda muito no domínio da pesquisa. Ele aborda o problema da "caixa preta", onde não temos nenhuma ideia de como um algoritmo realmente chegou à sua decisão final. Na prática, podemos saber que nosso pedido de empréstimo foi negado, mas não sabemos se foi por causa do nosso histórico de contas de energia não pagas, ou por causa do nosso sobrenome.

Sem essa responsabilidade, momentos-chave de nossas vidas são mediados por desconhecidos, despercebidas, e algoritmos arbitrários. Os guardiões algorítmicos podem assumir o papel de comunicar e explicar essas decisões.

Agora que os algoritmos se difundiram na vida diária, explicabilidade não é mais uma escolha, mas uma área que requer urgentemente mais atenção.

Precisamos desenvolver modelos de guardião algorítmicos específicos nos próximos dois anos para estabelecer as bases para sistemas algorítmicos abertos na próxima década. Dessa maneira, se um aplicativo quiser dizer ao Facebook que você está grávida, você saberá antes que aconteça.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.