Em um mundo cada vez mais orientado por dados, estamos apenas caminhando em fontes de dados para o benefício de corporações multinacionais gigantes?

A cada minuto, existem 3,8 milhões de consultas de pesquisa no Google; 4,5 milhões de vídeos assistidos no YouTube; quase $ 1 milhão gasto online; 41,6 milhões de mensagens enviadas via WhatsApp e Facebook Messenger - e essas são apenas uma fração das interações que acontecem atualmente online.

À medida que vivemos nossas vidas diárias - compartilhando nossas experiências pessoais nas redes sociais, pedindo ao Siri para definir nossos alarmes, e contando quantos passos damos em nossos wearables - estamos essencialmente nos tornando pontos de dados ambulantes, onde nossas informações são coletadas e analisadas para prever o comportamento. Onde isso vai acabar?

Professor Turgay Celik, Diretor da Plataforma Nacional de Ensino e Treinamento de Pós-Graduação em e-Science (NEPTTP) e do Wits Institute of Data Science (WIDS), prevê que nos próximos 10 a 15 anos, os humanos estarão "diretamente conectados ao ciberespaço sem o uso de dispositivos. Seu cérebro estará diretamente conectado à internet, " ele diz.

Engenheiros biomédicos da Wits já conectaram um cérebro humano à internet em tempo real. Este projeto Brainternet essencialmente transformou o cérebro em um nó da Internet das Coisas na World Wide Web.

Em 2019, a mesma equipe conectou dois computadores através do cérebro humano e transmitiu palavras como 'olá' e 'maçã', passivamente, sem que o usuário saiba que uma mensagem estava presente.

"Nós realmente precisamos ter nossos corpos físicos para experimentar a vida, ou só precisamos ter nosso próprio cérebro? "pergunta Celik." Estaremos vendo os sistemas criando esses ambientes virtuais para dar aos humanos uma experiência da natureza. Você quer ir e ver o osean, mas você realmente precisa ir fisicamente para lá? Posso estimular uma parte do meu cérebro para me dar essa experiência? "

Direitos do Android e o grande outro

Dr. Christopher Wareham, O conferencista sênior do Steve Biko Center for Bioethics at Wits argumenta que precisamos pensar sobre as implicações de tais desenvolvimentos tecnológicos a partir da perspectiva de agentes artificiais. Esses "seres digitais" terão potencialmente vidas - e direitos - próprios.

"Tradicionalmente, o foco nessa questão está muito no outro lado da questão:como vamos impedir que eles nos prejudiquem? Há muito pouco trabalho que olhe para isso do outro lado. Como vamos prevenir os humanos de prejudicar este ser, experimentando nisso? Devem existir leis que protejam este tipo de ser? "

Os desenvolvimentos em aprendizado de máquina e inteligência artificial (IA) já afetam significativamente a forma como vivemos nossas vidas hoje. O acadêmico americano Shoshana Zuboff cunhou o termo 'capitalismo de vigilância' em 2014. O capitalismo de vigilância depende da "arquitetura global da mediação por computador ... [que] produz uma nova expressão de poder distribuída e amplamente incontestada". Zuboff chama isso de "Grande Outro". Atualmente, o "Grande Outro" inclui o Facebook, Google, Microsoft e Amazon.

Capitalismo de vigilância

Escrevendo no The Guardian, Zuboff explica, "A lógica do capitalismo de vigilância começa com a reivindicação unilateral da experiência humana privada como matéria-prima gratuita para produção e vendas. Essas experiências são traduzidas em dados comportamentais. Alguns desses dados podem ser aplicados a melhorias de produtos ou serviços, e o resto é valorizado por seu poder preditivo. Esses fluxos de dados preditivos são alimentados em produtos computacionais que prevêem o comportamento humano. "

O capitalismo de vigilância é um "problema real", diz o professor Brian Armstrong, Cadeira em Negócios Digitais na Wits Business School. "Na minha opinião, uma grande preocupação é em torno de toda a ideia de pontuação social. "Isso se refere à prática de desenvolver um sistema de avaliação social para estabelecer se uma pessoa é um membro adequado e adequado da sociedade, em termos de sua "pontuação social".

Na China, empresas privadas já operam sistemas de crédito social, assim como o governo local em projetos-piloto. O plano é desenvolver um sistema nacional que pontue o comportamento do indivíduo, incluindo dar aos cidadãos uma pontuação e adicionar recompensas e penalidades para ações específicas. Por exemplo, se você doar para caridade, você ganha pontos, mas perde pontos por violações de trânsito.

Mas não é preciso ir tão longe quanto a China para uma vigilância do tipo Big Brother. Em Joanesburgo, milhares de câmeras de vigilância já monitoram motoristas e pedestres 24 horas por dia, 7 dias por semana. Em junho, o Financial Mail informou que Vumacam - uma subsidiária da empresa de fibra de internet, Vumatel — tinha instalado mais de 1, 200 câmeras de vigilância para combater o crime. Em 2020, o número de câmeras aumentará para mais de 10, 000

As empresas de segurança locais podem acessar o feed ao vivo do Vumacam e, à medida que o sistema de inteligência artificial aprende como é um dia típico em uma vizinhança, ele sinalizará um comportamento fora do comum para aquela área. Dra. Helen Robertson, que leciona Privacidade e Ética de Dados na Escola de Ciência da Computação e Matemática Aplicada, refere-se à batalha entre nosso direito à segurança e nosso direito à privacidade que tais formas de vigilância trazem à tona.

"Parece-me plausível pensarmos que nossas reivindicações de segurança aumentaram de peso em comparação com nossas reivindicações de privacidade. Se os algoritmos relevantes vão identificar anormalidades na filmagem, precisamos ter em mente o quão bons esses algoritmos são ou não. "

Segurança x privacidade

Nossas opiniões sobre privacidade não foram afetadas apenas por questões de segurança. A difusão da mídia social também desempenhou um papel. Robertson diz que a pessoa média está disposta a compartilhar muito mais sobre suas vidas privadas hoje em comparação com algumas décadas atrás. Essas visões em evolução não são necessariamente problemáticas. "Pode ser simplesmente uma questão de convenção de uma sociedade em contraste com a convenção de outra sociedade, e como eles tendem a se sentir em relação ao quanto estão dispostos a compartilhar. "

Celik acredita que a privacidade se tornará personalizada, com os indivíduos sendo capazes de definir quanta privacidade desejam para si próprios.

Nossa autonomia é outra área influenciada pelo mundo online. Wareham argumenta que muitos anúncios direcionados a micro e mensagens políticas são projetados especificamente para degradar nossa autonomia. "Se você fizer uma pesquisa no Google agora, você não obterá uma amostra imparcial de informações ... você obterá informações que o Google forneceu para você obter ... esses tipos de micro-segmentação ... querem acioná-lo por meio de cutucadas para se comportar em certas situações maneiras racionais. "

A questão então é sobre quem decide o que você lê, ouvir, ou assistir, e quem toma as decisões sobre qual conteúdo é "apropriado" para uma plataforma digital específica, e o que não é.

Em direção à tecnologia que ensina

Os avanços baseados em dados são, Contudo, nem tudo desgraça e melancolia. "Os dados em si não são agnosticamente bons ou ruins, mas é o que fazemos com ele. Pode ser abusado, ou pode ser usado para propósitos muito positivos, "argumenta Armstrong, acrescentando que a educação é uma área em que a África do Sul poderia se beneficiar imensamente.

"Se pudéssemos usar sistemas de gestão de aprendizagem de forma mais eficiente para ver como os alunos estão aprendendo, para ver com que material eles estão lutando ... para aprender quais estilos de ensino funcionam melhor, podemos individualizar a experiência de aprendizagem. "

Na China, A educação habilitada para IA já floresceu com dezenas de milhões de alunos usando alguma forma de IA para aprender. Isso inclui plataformas de tutoria onde algoritmos organizam aulas e adaptam o currículo com base na compreensão individual de conceitos específicos, relatórios MIT Technology Review.

Proteção de dados pessoais

Uma quantidade impressionante de dados é gerada diariamente, mas quem possui todos esses dados? Robertson aponta que atualmente não há consenso entre os especialistas em ética sobre essa questão espinhosa.

Alguns argumentam que o titular dos dados possui os dados. Outros dizem que o processador de dados que usa seus recursos para criar e analisar um conjunto de dados tem direitos de propriedade, enquanto alguns argumentam que, em certos casos, como pesquisas médicas que beneficiam a sociedade, a necessidade do público de tratamento médico e descobertas significa que os dados pertencem ao público.

Essas diferentes reivindicações de propriedade "adicionam muito cinza ético", diz Robertson. “A propriedade de dados é particularmente difícil. É um objeto que pode ser negociado, mas ao mesmo tempo, tem uma referência a um indivíduo, algo como outros artefatos fazem, como fotografias. Os direitos certamente parecem puxar em direções diferentes. "

No futuro próximo, Os sul-africanos terão considerável poder legal no que diz respeito à proteção de seus dados. A Lei de Proteção de Informações Pessoais (POPIA) visa proteger o direito à privacidade, ao mesmo tempo que possibilita os benefícios sociais e econômicos que resultam do livre fluxo de informações. O POPIA estipula as condições sob as quais as informações pessoais devem ser processadas legalmente, embora haja exceções.

Essas condições incluem que as informações pessoais "devem ser coletadas para um determinado, finalidade legal e definida explicitamente ". O processamento posterior de informações pessoais só pode ocorrer se estiver de acordo com a finalidade para a qual foram originalmente coletadas. A maioria das seções da Lei ainda não foi iniciada. O anúncio de uma data de início é esperado antes o final de 2019, após o qual as empresas terão um ano para cumprir.

Verine Etsebeth, um professor sênior na Wits School of Law, especializado em proteção de dados e legislação de segurança da informação, diz que a Lei POPI está muito atrasada. "Quanto mais cedo estiver na prática, o mais cedo pode chegar aos nossos tribunais e podemos ter precedentes estabelecidos, "diz Etsebeth." Vai ser a sobrevivência do mais apto. Se o seu concorrente cumpre e você não, você não conseguirá reter seus clientes. As empresas perceberão o quanto valem suas reputações. "

Desempoderamento digital

Apesar do entusiasmo com o potencial da tecnologia para resolver alguns de nossos problemas mais complexos, muitos sul-africanos ainda estão excluídos desses avanços. Apenas 40% da população africana tem acesso à Internet, em comparação com 61% no resto do mundo. Na África do Sul, a penetração da internet atualmente é de 56%.

"No mundo de hoje, desempoderamento digital é uma das formas mais profundas de desempoderamento, "diz Armstrong." O desempoderamento digital vem em três níveis. A primeira é se você tem acesso, em segundo lugar, você o usa, e em terceiro lugar você está engajado, transacionando e impactado? Na África do Sul, você não tem acesso se as redes não cobrem onde você está, ou se você não puder pagar pelo dispositivo móvel ... ou se você não puder pagar o preço dos dados. Em todas essas áreas temos um desafio. "