Na década de 1990 - há uma vida inteira em termos de internet - o sociólogo espanhol Manuel Castells publicou vários livros traçando o surgimento das redes de informação. Ele previu que na era da rede, mais valor agregaria no controle dos fluxos de informação do que no controle do próprio conteúdo.

Em outras palavras, aqueles que se posicionaram como hubs de rede - os roteadores e comutadores de informações - se tornariam os guardiões do poder na era digital.

Com a ascensão dos gigantes da Internet, o Google, Facebook, Amazon e outros, essa percepção parece óbvia agora. Mas nas últimas duas décadas, surgiu um modelo de negócios fundamentalmente novo que nem mesmo Castells previu - um em que atrair usuários para plataformas digitais tem precedência sobre tudo o mais, incluindo o que o usuário pode dizer, Faz, ou compre nessa plataforma.

A coleta de informações tornou-se o imperativo dominante para os gigantes da tecnologia - ajudados de boa vontade por usuários encantados primeiro com a novidade, depois, pela conveniência e autoexpressão proporcionada por estar online. O resultado foi uma explosão de informações, que os gigantes online podem agrupar e usar para o lucro.

A escala dessa empresa significa que grande parte dela é invisível para o usuário diário. As grandes plataformas agora são tão complexas que seu funcionamento interno se tornou opaco até mesmo para seus engenheiros e administradores. Se o sistema agora é tão grande que nem mesmo aqueles que trabalham nele podem ver a imagem completa, então que esperança os reguladores ou o público têm?

Claro, os governos estão tentando contra-atacar. As leis GDPR na Europa, o relatório de plataformas digitais ACCC na Austrália, e a Lei DETOUR apresentada ao Congresso dos Estados Unidos em abril - todas são tentativas significativas de recuperar alguma agência. Ao mesmo tempo, está começando a surgir nas sociedades em todos os lugares que esses esforços, embora crucial, não são suficientes.

Gatekeepers reinam supremos

Se você pensa na internet como uma máquina gigantesca para compartilhar e copiar informações, então fica claro que os sistemas para classificar essas informações são de vital importância. Pense não apenas na ferramenta de pesquisa do Google, mas também da maneira como o Google e a Amazon dominam a computação em nuvem - os sistemas amplamente invisíveis que tornam a Internet utilizável.

Hora extra, essas plataformas têm alcançado um controle cada vez maior sobre como as informações fluem por meio delas. Mas é um tipo de controle desconhecido, cada vez mais envolvendo autônomo, sistemas de autoaprendizagem que são cada vez mais inescrutáveis ​​para os humanos.

A gestão de informações é fundamental, é por isso que plataformas como o Google, Amazon e Facebook alcançaram a supremacia. Mas isso não significa que essas plataformas precisam necessariamente competir ou conspirar umas com as outras. A internet é realmente enorme, um fato que permitiu que cada plataforma se tornasse imperadora de um nicho em crescimento:o Google para pesquisas, Facebook para redes sociais, Amazon para varejo, e assim por diante. Em cada domínio, eles desempenharam o papel de titular, disruptor, e inovador, Tudo ao mesmo tempo.

Agora ninguém compete com eles. Se você é um indivíduo, o negócio, ou governo, se você precisa de internet, você precisa de seus serviços. Os gigantes da era das redes são estruturais.

Algoritmos estão executando o show

Para que essas plataformas fiquem no topo, a inovação é uma exigência constante. À medida que o trabalho de classificação fica cada vez maior e mais complexo, estamos vendo o desenvolvimento de algoritmos tão avançados que seus criadores humanos perderam a capacidade de entender seu funcionamento interno. E se a saída satisfizer a tarefa em questão, o funcionamento interno do sistema é considerado de menor importância.

Enquanto isso, a ladainha de efeitos adversos é inegável. Este admirável mundo novo comandado por máquinas está corroendo nossa capacidade de identificar, localizar, e confiar em informações oficiais, em favor da velocidade.

É verdade que o paciente já não estava bem; as sociedades foram esvaziadas por três décadas de fundamentalismo de mercado. Mas, como advertiu recentemente o historiador de tecnologia americano George Dyson, código de autorreplicação agora está disponível no ecossistema cibernético. O que começou como uma forma de os humanos induzirem os outros a comportamentos desejados, agora ameaça se transformar em nada menos do que a manipulação de humanos por máquinas.

A era digital estimulou um enorme crescimento em disciplinas de pesquisa, como psicologia social, comportamentos economicos, e neurociência. Eles produziram insights surpreendentes sobre a cognição e o comportamento humanos, com usos potenciais que estão longe de ser benignos.

Mesmo que este esforço tenha sido fundado com a melhor das intenções, acidentes abundam quando humanos falíveis intervêm em sistemas complexos com bases éticas e legais incipientes. Jogue intenções malignas na mistura - interferência eleitoral, guerra de informação, extremismo online - e os desafios só aumentam.

Se você ainda está pensando em tecnologias digitais como ferramentas, o que implica que você, o usuário, estão no controle total - você precisa pensar novamente. A verdade é que ninguém sabe realmente aonde o código digital autorreplicante nos levará. Você é o feedback, não a instrução.

Os reguladores não sabem por onde começar

Está crescendo um consenso de que a intervenção regulatória é necessária com urgência para evitar mais perturbações sociais, e para trazer supervisão democrática e legal às práticas dos maiores monopólios do mundo. Mas, se Dyson estiver correto, o gênio já saiu da garrafa.

Encantado com a novidade e a conveniência da vida online, inadvertidamente, permitimos que o Vale do Silício realizasse um "golpe de cima". Já passou da hora que a ideologia que inspirou este golpe, e agora governa muitas atividades humanas cotidianas, é exposta a escrutínio.

Os desafios da era da informação digital vão além dos monopólios e da privacidade. Este regime de tecnologias foi construído por design, sem preocupações com a exploração. Essas vulnerabilidades são extensas e continuarão a ser abusadas, e agora que essa tecnologia faz parte tão intimamente da vida diária, sua remediação deve ser buscada sem medo ou favorecimento.

No entanto, a intervenção legislativa e regulatória só pode ser eficaz se a indústria, governos e sociedade civil se unem para construir, por design, uma era da informação digital digna desse nome, o que não nos deixa todos abertos à exploração.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.