Recentemente, participei de uma grande reunião de professores para discutir a avaliação dos alunos de pós-graduação, recrutamento e retenção.

"Deixe os dados orientarem seus objetivos, "um dos palestrantes repetiu, como um mantra - com entusiasmo e convicção genuínos - e eu não pude deixar de estremecer.

O slogan me pareceu sintomático do que a psicóloga social Shoshana Zuboff apelidou de "golpe de gens".

Se um golpe de estado denota a substituição ilegal de um sistema político por outro, um golpe des gens - "gens" que significa "povo" em francês - é caracterizado pela substituição forçada de seres humanos por sistemas de informação abstratos.

Em meu livro recente, "O Eu Terminal, "Eu mostro como somos cada vez mais coagidos a interagir com a tecnologia da computação em todos os aspectos de nossas vidas diárias. Entre muitos outros efeitos, essa interação coagida nos força a sincronizar nossas funções cognitivas com a lógica do computador e alimentá-lo com fluxos infinitos de dados, tornando-nos maduros para vigilância e exploração constantes.

Gerenciando os fluxos do 'novo petróleo'

Os dados agora são usados ​​por empresas para ajudá-los a avaliar, classificação, selecionar ou dispensar clientes em potencial. Pode ser usado para medir o risco médico, merecimento de crédito, saúde psicológica, desempenho no trabalho, hábitos de consumo, preferências alimentares, humores, preferências de namoro e opiniões políticas.

Como disse a Comissária Europeia do Consumidor, Meglena Kuneva, "os dados pessoais são o novo óleo da Internet e a nova moeda do mundo digital."

O alto valor atribuído aos dados deu início ao que o sociólogo francês Paul Virilio chama de "fundamentalismo informacional" - uma ideologia que exalta a informação digital como o bem supremo e o poder supremo ao qual todos devem render sua vontade, tempo e bom senso.

Para funcionar de forma eficiente, a maioria das instituições deve gerenciar de forma inteligente esses fluxos crescentes de dados. Contudo, a capacidade tecnológica de gerenciar grandes quantidades de dados não leva necessariamente a análises inteligentes.

Pelo contrário, observa o estudioso da mídia Mark Andrejevic, "Nós nos tornamos analistas de inteligência examinando mais dados do que podemos absorver." Os indivíduos simplesmente não têm capacidade intelectual para vasculhar os fluxos de informação em constante crescimento que precisam processar e minerar para tomar decisões inteligentes.

Uma parte cada vez maior do nosso dia-a-dia requer não apenas o processamento das "bombas de informação" - os e-mails, mensagens, notícias de última hora e anúncios - que detonam aleatoriamente em nossas vidas diárias. Ele também exige que insiramos informações constantemente no sistema.

Pense no número crescente de trabalhadores e profissionais do conhecimento em diferentes setores da economia que basicamente se tornaram assistentes de entrada de dados. Seus trabalhos consistem principalmente em fornecer sempre mais informações a um organismo digital cada vez mais faminto, por razões que parecem óbvias, mas raramente são questionadas.

Vemos isso nos dados de nível granular que muitos professores de escolas públicas devem agora inserir sobre todos os aspectos da aprendizagem de seus alunos. Nós vemos isso no infinito, e muitas vezes falho, profissionais de pesquisas de todos os matizes são solicitados a preencher sobre suas tarefas diárias, progresso e "satisfação".

Este trabalho de entrada de dados entorpecente desqualifica os trabalhadores do conhecimento, aliena-os e trai uma trágica má gestão do capital humano.

O cavalo de Tróia digital

Se a obrigação de inserir informações for abertamente aplicada no trabalho, é secretamente induzido em casa. Sempre que navegamos tranquilamente na Internet, consultar sites, clicando em links ou compartilhando nossas fotos, política e preferências, também estamos - involuntariamente e involuntariamente - produzindo volumes gigantescos de informações. Outros invisíveis então colhem avidamente, armazenar, organizar e vender esses dados para fins de controle social, persuasão e modificação de comportamento.

"No Google, você é o que você clica. No Facebook, você é o que você compartilha, "escreve o CEO da Upworthy, Eli Pariser.

Essa extração de informações digitais pode influenciar vidas humanas reais. Em sua extensa análise da vigilância corporativa na vida cotidiana, O estudioso da cultura digital Wolfe Christl adverte que as empresas de mineração de dados estão usando dados pessoais para tomar decisões automaticamente sobre as pessoas que podem piorar as desigualdades existentes.

Por exemplo, Christl mostra como empresas de análise de saúde como a GNS Healthcare reúnem grandes quantidades de dados de genômica, registros médicos, dados de laboratório e dispositivos móveis de saúde para fornecer informações sobre usuários a seguradoras de saúde. Essas empresas podem, então, manipular significativamente os custos do seguro saúde para diferentes categorias de candidatos.

De forma similar, ele aponta que os dados coletados sobre a estabilidade emocional de alguém, a felicidade e a probabilidade de ter um bebê podem influenciar na contratação, retido ou promovido.

Com algoritmos cada vez mais deslocando humanos neste tipo de tomada de decisão, o destino dos cidadãos é cada vez mais determinado pelos sistemas de informação. Como explica Zuboff, é uma tendência que reduz as pessoas a fontes de extração de dados e alvos para exploração.

O aspecto mais desconcertante desta situação não são as próprias capacidades de vigilância, tão assustadores quanto eles. É a nossa submissão tácita a um regime de vigilância constante e remota que - exceto em filmes de espionagem ou delírios paranóicos - teria sido considerado absurdo algumas décadas atrás.

Mais preocupante, em uma entrevista de 2017 sobre "60 minutos, "O ex-gerente de marketing do Google, Tristan Harris, explicou os motivos insidiosos da coleta de dados:as empresas de tecnologia não estão apenas tentando encontrar informações sobre usuários para vendê-las a empresas que desejam vender mercadorias. Elas estão competindo para criar o melhor" hackeamento cerebral "programas que coletam as informações mais precisas sobre o que faz os usuários pulsarem emocionalmente e o que chama sua atenção.

O objetivo é manipular as reações emocionais dos usuários - remotamente e no nível neural. Nas mãos erradas, esse tipo de manipulação pode ser usado não apenas para vender coisas às pessoas, mas também para influenciar suas decisões políticas. De acordo com o cientista político Collin Bennett, este projeto está bem encaminhado.

Acesso negado

Para adicionar insulto à injúria, é quase impossível para os usuários detectar quais informações sobre eles estão sendo coletadas, quem está coletando e o que eles fazem com isso.

Cada deslizar na tela de um smartphone e cada mensagem digitada é registrada como "sinais" que ajudam a compreender a personalidade de um usuário, interesses, humor e saúde financeira. As pontuações de crédito dos amigos de um usuário no Facebook podem até ser usadas para calcular seu próprio valor de crédito. Devido ao anonimato completo das agências que coletam e usam esses dados, não é realista esperar que se possa corrigir - e evitar as consequências de - os erros que inevitavelmente surgem no "perfil" de alguém.

É angustiante sentir-se monitorado unilateralmente, impotente e desinformado. De acordo com um estudo, aqueles que percebem que sua privacidade foi exposta sem seu consentimento, experiência "emocional, respostas psicanalíticas e corporais que às vezes são estultificantemente profundas. "

Mas essa vigilância também é uma forma de exploração.

Afinal, somos nós que produzimos essas informações. Somos nós que sacrificamos cada vez mais nosso tempo para ler as diretrizes do site, assista a vídeos instrutivos, preencha formulários digitais, encaminhar informação, sustentar redes sociais digitais e gerar informações valiosas sobre nós mesmos para outras pessoas usarem.

Quem gera esse valor não deveria ter mais controle sobre as condições de sua produção? oferta, divulgação e uso? E se esse direito não puder ser concedido devido a inextricáveis ​​dificuldades tecnológicas, não deveria o mesmo nível de transparência ser imposto a quem coleta, vender e usar?

O regime do algoritmo

A crescente dependência da informação, a normalização da vigilância e o uso crescente de sistemas de informação para tomar decisões importantes sobre a vida dos cidadãos equivalem a um "golpe de gens".

Contudo, democracia requer privacidade, e liberdade implica proteção contra invasão, seja físico ou digital. Em seu famoso tratado sobre a Quarta Emenda, O juiz da Suprema Corte Brandeis argumentou que “o direito de ser deixado em paz” é “o direito mais valorizado pelos homens civilizados” e é “fundamental para uma sociedade livre e civil”.

Os cidadãos adultos de uma sociedade democrática devem ter o direito de decidir que tipo de informação está sendo coletada sobre eles, quem pode usar essas informações e como eles podem usá-las. Eles devem ter o direito de verificar se essas informações são precisas e, quando não é, para corrigi-lo. Eles devem ter o direito - e a responsabilidade - de questionar esse vício bulímico por dados e seu propósito final.

Como Dave Eggers escreve em seu romance "The Circle, "" A busca incessante de dados para quantificar o valor de qualquer empreendimento é catastrófica para o verdadeiro entendimento. "

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.