p Podemos nos lembrar de 2018 como o ano em que o potencial distópico da tecnologia se tornou claro, desde a função do Facebook, possibilitando a coleta de nossos dados pessoais para interferência eleitoral até uma série aparentemente interminável de revelações sobre o lado negro do ethos conecte tudo do Vale do Silício. p A lista é longa:ferramentas de alta tecnologia para repressão à imigração. Medo do vício do smartphone. Algoritmos do YouTube que conduzem os jovens ao extremismo. Um experimento em bebês com edição genética.

p Campainhas e salas de concerto que podem localizar rostos individuais e alertar a polícia. Reaproveitando sites de genealogia para caçar suspeitos de crimes com base no DNA de um parente. Sistemas automatizados que controlam os movimentos e hábitos dos trabalhadores. Carros elétricos em Xangai transmitindo todos os seus movimentos ao governo.

p Foi o suficiente para exaurir até os visionários de ficção científica mais imaginativos.

p "Não parece que estamos vivendo no futuro agora, já que estamos vivendo em um futuro retro, "o romancista William Gibson escreveu este mês no Twitter." futuro retro dos anos 90 pateta. "

p Mais nos espera em 2019, conforme os esforços de vigilância e coleta de dados aumentam e os sistemas de inteligência artificial começam a soar mais humanos, ler expressões faciais e gerar imagens de vídeo falsas tão realistas que será mais difícil detectar distorções maliciosas da verdade.

p Mas também há contramedidas em andamento no Congresso e no governo estadual - e até mesmo entre os funcionários de empresas de tecnologia que são mais ativos para garantir que seu trabalho tenha fins positivos.

p "Algo que foi animador este ano foi que acompanhando esse desfile de escândalos estava uma crescente consciência pública de que há uma crise de responsabilidade na tecnologia, "disse Meredith Whittaker, um co-fundador do AI Now Institute da Universidade de Nova York para estudar as implicações sociais da inteligência artificial.

p O grupo compilou uma longa lista do que tornou 2018 tão ameaçador, embora muitos sejam exemplos de o público simplesmente se conscientizando de problemas que se acumularam durante anos. Entre os casos mais preocupantes estava a revelação em março de que a empresa política de mineração de dados Cambridge Analytica coletou informações pessoais de milhões de usuários do Facebook com o objetivo de manipular as eleições nacionais.

p "Realmente ajudou a despertar as pessoas para o fato de que esses sistemas estão, na verdade, tocando o âmago de nossas vidas e moldando nossas instituições sociais, "Whittaker disse.

p Isso foi além de outros desastres do Facebook, incluindo seu papel no fomento da violência em Mianmar, principais violações de dados e preocupações contínuas sobre a hospedagem de contas falsas para propaganda russa.

p Não foi apenas o Facebook. O Google preocupou-se com a vigilância contínua dos usuários depois que a Associated Press informou que estava rastreando os movimentos das pessoas, gostassem ou não.

p Também enfrentou dissidência interna sobre sua colaboração com os militares dos EUA para criar drones com "visão computacional" para ajudar a encontrar alvos no campo de batalha e uma proposta secreta para lançar um mecanismo de busca censurado na China. E revelou um assistente de voz incrivelmente semelhante ao humano que parece tão real que as pessoas do outro lado da linha não sabiam que estavam falando com um computador.

p Essas e outras preocupações surgiram em dezembro, quando os legisladores interrogaram o CEO do Google, Sundar Pichai, em uma audiência no Congresso - uma sequência de acertos públicos semelhantes este ano com o CEO do Facebook Mark Zuckerberg e outros executivos de tecnologia.

p “Foi necessário convocar esta audiência devido ao crescente fosso de desconfiança entre as empresas de tecnologia e o povo americano, "Disse o líder da maioria republicana na Câmara, Kevin McCarthy.

p O pioneiro da Internet Vint Cerf disse que ele e outros engenheiros nunca imaginaram que sua visão de uma rede mundial de computadores conectados se transformaria 45 anos depois em um sistema de vigilância que coleta informações pessoais ou uma máquina de propaganda que poderia influenciar eleições.

p "Estávamos apenas tentando fazer funcionar, "lembrou Cerf, que agora é o principal evangelista da Internet do Google. "Mas agora que está nas mãos do público em geral, há pessoas que ... querem que funcione de uma forma que obviamente prejudique, ou se beneficiam, ou perturba o sistema político. Então, vamos ter que lidar com isso. "

p Ao contrário dos temores futuristas de robôs "superinteligentes" assumindo o controle, os perigos reais de nossa era da tecnologia surgiram de forma mais prosaica - geralmente na forma de inovações tecnológicas que acolhemos para tornar a vida mais conveniente.

p Parte da preocupação dos especialistas sobre o salto para conectar todos os dispositivos domésticos à internet e permitir que os computadores façam nosso trabalho é que a tecnologia ainda tem bugs e é influenciada por preconceitos e erros humanos. Uber e Tesla foram investigados por acidentes fatais de carro sem direção em março, A IBM foi investigada por trabalhar com a polícia da cidade de Nova York para construir um sistema de reconhecimento facial que pode detectar etnias, e a Amazon foi criticada por fornecer seu próprio serviço de reconhecimento facial defeituoso para as agências de aplicação da lei.

p Em alguns casos, a oposição à pressa da indústria de tecnologia em aplicar suas inovações mais recentes a usos comerciais questionáveis ​​veio de seus próprios funcionários. Funcionários do Google ajudaram a fechar o contrato de drones com o Pentágono da empresa, e trabalhadores da Amazon, A Microsoft e a Salesforce procuraram cancelar os contratos de suas empresas para fornecer serviços de tecnologia às autoridades de imigração.

p "Ficou óbvio para muitas pessoas que a retórica de fazer o bem e beneficiar a sociedade e 'Não seja mau' não era o que essas empresas estavam realmente fazendo, "disse Whittaker, que também é um cientista pesquisador do Google que fundou seu grupo de pesquisa aberta.

p Ao mesmo tempo, até mesmo alguns titãs da tecnologia têm soado alarmes. Engenheiros e designers proeminentes têm falado cada vez mais sobre como proteger as crianças dos produtos de tecnologia que ajudam a criar.

p E há o presidente da Microsoft, Brad Smith, que em dezembro pediu a regulamentação da tecnologia de reconhecimento facial para que "o ano de 2024 não pareça uma página" de "1984" de George Orwell.

p Em uma postagem de blog e um discurso em Washington, Smith pintou uma visão sombria de sistemas de vigilância do governo que tudo vêem, forçando dissidentes a se esconderem em salas escuras "para tocar em código com sinais manuais nos braços uns dos outros".

p Para evitar esse cenário orwelliano, Smith defende a regulamentação da tecnologia para que qualquer pessoa prestes a se sujeitar à vigilância seja devidamente notificada. Mas os defensores da privacidade argumentam que isso não é suficiente.

p Esses debates já estão acontecendo em estados como Illinois, onde uma lei rígida de reconhecimento facial enfrenta desafios da indústria de tecnologia, e Califórnia, que em 2018 aprovou a lei mais abrangente do país para dar aos consumidores mais controle sobre seus dados pessoais. Ela entra em vigor em 2020.

p A questão pode receber uma nova atenção no Congresso no ano que vem, à medida que mais republicanos se acostumarem com a ideia de regulamentações básicas de privacidade online e a maioria da Câmara dos Democratas adotar uma abordagem mais cética em relação às empresas de tecnologia que muitos políticos liberais antes consideravam aliados - e prolíficos doadores de campanha .

p A abordagem "deixe-os em paz" do início da era da Internet não funcionará mais, disse o Dep. David Cicilline, um democrata de Rhode Island prestes a assumir o comando do subcomitê antitruste da Câmara.

p "Estamos vendo agora algumas das consequências dos abusos que podem ocorrer nessas plataformas se permanecerem não regulamentadas, sem supervisão ou fiscalização significativa, "Cicilline disse.

p Muita regulamentação pode trazer seus próprios efeitos colaterais indesejáveis, Cerf avisou.

p "De certa forma, é engraçado porque esse ambiente on-line deveria remover o atrito de nossa capacidade de realizar transações, "ele disse." Se em nosso desejo, se não zelo, para proteger a privacidade das pessoas, jogamos areia nas engrenagens de tudo, podemos acabar com um sistema muito seguro que não funciona muito bem. " p © 2018 Associated Press. Todos os direitos reservados.