O infame lema "Não seja mau" do Google expôs os valores centrais de seus fundadores nos termos mais simples (se você acha que eles cumpriram ou não a promessa, é outra conversa). Mas ser ético em tecnologia é tão simples quanto apenas declarar seus valores, ou requer mais introspecção ao longo do processo de desenvolvimento?

O lançamento iminente da rede 5G foi descrito como o arauto da quarta revolução industrial, trazendo conectividade sem precedentes entre dispositivos que irão transformar a maneira como vivemos. Mas, à medida que mais dispositivos em nossas casas se conectam e se juntam à crescente Internet das Coisas (IoT), os desenvolvedores precisam começar a se fazer mais perguntas sobre as implicações éticas de suas criações.

Isso se tornou uma história familiar recentemente. Um dispositivo "inteligente" popular é considerado constrangedoramente inseguro ou facilmente hackeado, levando a um vazamento de dados altamente confidenciais. Os desenvolvedores de IoT estão aprendendo rapidamente que a segurança não pode ser negligenciada, e questões de privacidade relacionadas à proteção da identidade do usuário são igualmente importantes. Quando compramos produtos como o Alexa da Amazon, que estão intimamente envolvidos em nossas vidas diárias - vendo e ouvindo tudo o que fazemos - precisamos saber se os dados pessoais que eles coletam sobre nós não estão sendo mal utilizados.

O projeto VIRTeu, coordenado por Irina Shklovski da IT University of Copenhagen, está criando ferramentas e atividades que ajudam os desenvolvedores de IoT a trazer a ética para suas próprias conversas. Sua última façanha, Bear &Co, é uma experiência imersiva que mergulha os participantes no mundo de uma start-up de IoT fictícia. Inspirado pelos CloudPets da vida real - uma empresa "inteligente" de ursinhos de pelúcia cujo produto registrou e armazenou milhões de conversas facilmente hackeadas entre pais e filhos online - Bear &Co convida os participantes a se tornarem um "funcionário" da empresa e ver como decisões aparentemente inócuas podem levar a dificuldades éticas.

Primeiramente, os participantes são solicitados a declarar seus valores - o que eles vão trazer para a empresa e o que mais importa. Então, seus valores são testados em diferentes cenários e problemas. Depois que eles terminarem, suas decisões são comparadas com seu conjunto inicial de valores essenciais - muitas vezes mostrando um desalinhamento entre os dois.

"Bear &Co foi projetado para fazer as pessoas pensarem mais profundamente sobre as decisões que devem ser tomadas ao desenvolver um produto IoT, "diz a coordenadora do projeto Irina Shklovski." Na superfície, é fácil pensar nessas decisões como puramente técnicas, mas muitas vezes existem essas repercussões subjacentes que podem entrar em conflito com os valores dos desenvolvedores.

"Realizamos eventos em que pedimos aos fundadores de start-ups que pensassem em um mundo em que seus produtos estivessem em todos os lares. Na grande maioria das vezes, eles acabam com um futuro descontroladamente distópico porque nunca consideraram o que aconteceria nesta escala. Não há respostas fáceis para essas questões, mas é importante que as pessoas pensem sobre eles de maneira adequada, embora possa ser bastante desconfortável para eles. "

O Bear &Co foi criado pelo parceiro do VIRTeu, CIID Research, em colaboração com Irina Shklovski da IT University of Copenhagen e Javier Ruiz do Open Rights Group. A equipe de design da CIID Research é Annelie Berner, Monika Seyfried, Calle Nordenskjöld e Peter Kuhberg (design independente). CIID Research é um grupo de pesquisa voltado para o futuro que trabalha nas interseções do design de interação, arte, Ciência e Tecnologia, do Copenhagen Institute of Interaction Design.