Em 1998, O Google começou humildemente, formalmente incorporada em uma garagem Menlo Park, fornecer resultados de pesquisa de um servidor alojado em blocos de Lego. Ele tinha um objetivo simples:tornar a World Wide Web mal indexada acessível aos humanos. Seu sucesso foi baseado em um algoritmo que analisou a estrutura de links da própria internet para avaliar quais páginas da web são mais confiáveis ​​e úteis. Mas os fundadores Sergey Brin e Larry Page tinham uma meta muito mais ambiciosa:eles queriam organizar as informações do mundo.

Vinte anos depois, eles construíram uma empresa que vai muito além até mesmo dessa meta elevada, fornecendo e-mail a indivíduos e empresas, compartilhamento de arquivos, hospedagem na web, automação residencial, smartphones e inúmeros outros serviços. A startup lúdica que começou como um pesquisador da web se tornou uma arquiteta da realidade, criando e definindo o que seus bilhões de usuários encontram, Vejo, conhece ou até está ciente.

O Google controla mais de 90 por cento do mercado de pesquisa global, levando usuários e empresas a criar sites que apelam aos algoritmos da empresa. Se o Google não consegue encontrar uma informação, esse conhecimento simplesmente não existe para os usuários do Google. Se não estiver no Google, realmente existe?

A máquina de intimidade

Apesar de seus bilhões de consultas de pesquisa respondidas, O Google não é apenas uma secretária eletrônica. O Google monitora em quais respostas as pessoas clicam, assumindo que são mais relevantes e de maior valor, e retorná-los com mais destaque em pesquisas futuras sobre esse tópico. A empresa também monitora as atividades do usuário em seu e-mail, aplicativos de negócios, música e sistemas operacionais móveis, usando esses dados como parte de um ciclo de feedback para dar aos usuários mais do que eles gostam.

Todos os dados que coleta são a verdadeira fonte do domínio do Google, tornando os serviços da empresa cada vez melhores, fornecendo aos usuários o que eles desejam. Por meio do preenchimento automático e da filtragem personalizada dos resultados da pesquisa, O Google tenta antecipar suas necessidades, às vezes antes mesmo de você tê-los. Como disse o ex-presidente executivo do Google, Eric Schmidt, "Na verdade, acho que a maioria das pessoas não quer que o Google responda às suas perguntas. Eles querem que o Google diga o que eles devem fazer a seguir."

Daqui a vinte anos, com mais duas décadas de progresso, O Google será ainda mais realizado, talvez se aproximando de uma visão que Brin expressou anos atrás:"O mecanismo de busca perfeito seria como a mente de Deus." As pessoas estão começando a confiar nessas ferramentas, com seus algoritmos avançados baseados em inteligência artificial, não apenas para saber coisas, mas para ajudá-los a pensar.

A barra de pesquisa já se tornou um lugar onde as pessoas fazem perguntas pessoais, um tipo de confissão ou fluxo de consciência que é profundamente revelador sobre quem são os usuários, o que eles acreditam e o que eles querem. No futuro, O Google conhecerá você ainda mais intimamente, combinando resultados de pesquisa, histórico de navegação e rastreamento de localização com dados biofísicos de saúde de wearables e outras fontes que podem oferecer informações poderosas sobre o seu estado de espírito.

Um novo tipo de vulnerabilidade

Não é exagero imaginar que, no futuro, O Google pode saber se um indivíduo está deprimido, ou tem câncer, antes que o usuário perceba por si mesmo. Mas mesmo além disso, O Google pode ter um papel crucial em um alinhamento cada vez mais estreito entre o que você acha que são suas necessidades, e o que o Google diz que eles são.

Além de seus efeitos sobre pessoas individuais, O Google está acumulando poder para influenciar a sociedade - talvez de forma invisível. Ficção tem um aviso sobre como isso pode ser:no filme "Ex Machina, "um gênio empreendedor revela como ele reuniu a matéria-prima de bilhões de consultas de pesquisa em uma mente artificial que é altamente eficaz em manipular humanos com base no que aprende sobre os comportamentos e preconceitos das pessoas.

Mas essa situação não é realmente ficção. Já em 2014, pesquisadores do Facebook demonstraram de forma infame como é fácil manipular usuários com postagens positivas ou negativas em seus feeds de notícias. À medida que as pessoas entregam aos algoritmos mais poder sobre suas vidas diárias, eles vão notar como as máquinas os estão conduzindo?

Sobrevivendo ao futuro glorioso

Se o Google, em última análise, exerce esse poder depende de seus líderes humanos - e da sociedade digital que o Google é fundamental para construir. A empresa está investindo fortemente em inteligência de máquina, comprometendo-se com um futuro altamente automatizado onde a mecânica e, possivelmente, os verdadeiros insights da busca pelo conhecimento tornam-se difíceis ou impossíveis de serem compreendidos pelos humanos.

O Google está gradualmente se tornando uma extensão do pensamento individual e coletivo. Vai ficar mais difícil reconhecer onde as pessoas terminam e o Google começa. As pessoas se tornarão capacitadas e dependentes da tecnologia - que será de fácil acesso para qualquer pessoa, mas difícil de controlar.

Os seres humanos precisarão encontrar maneiras de colaborar com - e dirigir as atividades de - inteligência de máquina cada vez mais sofisticada, em vez de simplesmente se tornarem usuários que seguem cegamente os comandos de caixas pretas que eles não entendem ou controlam mais.

Com base em nossos estudos das relações complexas entre pessoas e tecnologias, uma chave crítica para essa nova compreensão dos algoritmos será a narração de histórias. O cérebro humano é ruim para entender e processar dados - ou seja, claro, força central de uma máquina. Trabalhar juntos, uma nova relação homem-máquina terá que depender de uma força exclusivamente humana - contar histórias. As pessoas trabalharão melhor com sistemas que podem funcionar por meio de histórias e explicar suas ações de maneiras que os humanos possam compreender e modificar.

Quanto mais as pessoas confiam em sistemas baseados em computador para organizar a cultura e a sociedade, mais eles devem exigir que esses sistemas funcionem de acordo com as regras que os humanos podem compreender. No dia em que deixarmos de ser os principais autores da história da humanidade, ela deixará de ser uma história sobre nós.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.