p O fundador da DuckDuckGo, Gabriel Weinberg, está entre os profetas digitais nos alertando sobre como o Google, o Golias que ele vem desafiando há 10 anos com seu mecanismo de busca sem rastreamento baseado em Paoli, e outros gigantes da informação estão espremendo a privacidade pessoal e conteúdo independente:"Se as pessoas estão consumindo todas as coisas do Inquirer de graça no Facebook ou Google, é uma proposta perdida para você. " p Veja o que aconteceu com FunnyOrDie.com, ele disse, que "acaba de anunciar demissões para metade da equipe. O Facebook retirou seu conteúdo e, com isso, seu público, forçando-os a pagar para colocar seus próprios novos vídeos. E eles continuam aumentando o preço; é proibitivamente caro. Seu conteúdo se torna viral, e você não ganha nenhum dinheiro. "

p Mas não está reclamando que a internet é um dispositivo para enriquecer os magnatas da tecnologia às custas do público, como objetar ao progresso? Não são os algoritmos da Internet que nos dizem quais vídeos do YouTube assistir, quais antigos colegas de classe para serem amigos no Facebook, e quais celebridades usam roupas mais legais no Instragram, baseado na matemática, demografia e lógica?

p É pior do que "lixo na, lixo para fora, "Diz Weinberg. Ele conta como alguns de seus heróis - repórteres investigativos, trabalhando para organizações de notícias antigas e novas - descobriram "viés significativo nos algoritmos".

p Veja o trabalho de Kashmir Hill para o Gizmodo - sua derrubada da "Internet das coisas, "mostrando como as empresas coletam e interpretam seus dados de dispositivos e serviços pelos quais você paga, em "A casa que me espiou"; e como o Google usa seu poder para anular ideias de que não gosta.

p O governo não está pronto para nos proteger, Weinberg diz:O Congresso permitiu que a antiga proibição de o seu provedor de serviços de Internet vender o histórico do seu navegador expirasse no ano passado. Verizon, Comcast e outros "ISPs agora podem coletar e vender seus dados, sobre onde você visita. Muitos deles não foram criptografados. Os programas do Hulu foram descriptografados. "Suas preferências são mais fáceis de rastrear, listar e vender.

p Portanto, é extremamente preocupante como até mesmo agências governamentais estão colocando seus dados pessoais para funcionar, independentemente da precisão e das preocupações com a privacidade.

p Funciona assim:contratantes / consultores de TI chegam às agências governamentais "e dizem:'Seu antigo sistema não é bom. Faremos um melhor para você, "Weinberg diz." Os algoritmos geralmente não são complicados. Mas eles ainda podem ser inerentemente tendenciosos. E sempre há consequências indesejadas. "

p Os aplicativos governamentais de dados pessoais não são públicos? Não:"Porque eles obtêm o algoritmo de uma empresa, é 'proprietário'. Mas há um argumento de que eles deveriam ser disponibilizados ao público, de acordo com as leis de transparência. Então, organizações de notícias e advogados pro bono estão processando para obter os algoritmos, "Weinberg me contou.

p Ou a agência justificará um novo aplicativo caro de processamento de dados pessoais, dizendo, "'Isto é Inteligência Artificial'." Como se só isso fosse um motivo para usar a nova ferramenta. Mas é uma ferramenta que alguém montou usando informações limitadas, provavelmente em segredo, com consequências não intencionais, mas significativas, colocando algumas pessoas em desvantagem, e resultados de polarização. Isso deve ser público. "Quando você ouvir sobre isso, você deveria estar dizendo a si mesmo, - Talvez eu consiga descobrir isso! "

p Weinberg admira como a organização sem fins lucrativos ProPublica usou pedidos de liberdade de informação (também conhecido como direito de saber) para mostrar como os juízes do estado de Nova York "compraram um algoritmo para ajudar nas sugestões de sentença" que teve o efeito de concentrar o viés percebido, em vez de tornar a sentença imparcial. Weinberg diz que programas de financiamento público que usam algoritmos semelhantes podem consolidar o caráter econômico dos bairros. (Para saber mais sobre como a ciência de dados prejudica as políticas públicas, Weinberg recomenda o livro de Cathy O'Neil "Weapons of Math Destruction".)

p Eu perguntei sobre NeoGov, o sistema de contratação digital que a Pensilvânia e 25 outros estados deveriam usar para substituir o antigo sistema de exames de emprego estaduais. "Parece muito válido verificar se há tendências não intencionais, "Weinberg diz.

p Ou considere o impacto político do YouTube:"Seu objetivo é fazer com que os usuários continuem assistindo a vídeos 'relacionados'. Eles tendem a ser extremos, e ultrajante e para empurrar os espectadores para posições extremamente ultrajantes. Mesmo que não seja essa a intenção. "Como a Wired observa aqui. Veja também o artigo recente do Guardian com as observações do ex-engenheiro do Google Guillame Cashlot sobre" como o algoritmo do YouTube distorce a verdade. "

p Como desenrolamos a mídia social para encontrar o que o velho futurista Vance Packard chamou de "persuasores ocultos" e o professor de Direito de Columbia, Tim Wu, chama de Comerciantes da Atenção? "Julia Angwin foi pioneira nesta área do jornalismo, "começando no Wall Street Journal e passando para o ProPublica, Weinberg diz. (Veja a investigação de Angwin rastreando a coleta de informações do Google sob o suposto modo de navegação anônima do navegador Chrome.)

p Veja também o trabalho de Angwin para o Wall Street Journal, auxiliado por Weinberg, que deu subsídios para repórteres para contratar assistência de programação. "Descobrimos muitas 'adaptações' acontecendo nas pesquisas anônimas, em torno de tópicos, incluindo controle de armas, aborto, das Alterações Climáticas. Havia 'palavras-chave mágicas' que adicionariam artigos de notícias adicionais que o Google disse que você 'pesquisou anteriormente'.

p “Acontece que 'Obama' era uma palavra-chave mágica e 'Romney' não. Havia milhões de ideias e itens extras de Romney. Foi o contrário do que aconteceu na eleição de Trump / Clinton, "quando os vídeos do Trump recebiam muito mais atenção do que os vídeos do Clinton porque eram mais ousados ​​e atraíam mais espectadores, garantindo que mais vídeos Trump sejam veiculados aos espectadores. "Não intencional? Mas eficaz."

p Angwin também mostrou como "a Amazon estava promovendo seus próprios produtos em detrimento de outros, embora o preço não seja inferior." Veja também sua série ProPublica sobre "tendência de máquina". Reportagem de Angwin, Weinberg diz, "deu início a mais disso em outras organizações." Métodos semelhantes podem ser / têm sido usados ​​para mostrar, por exemplo, o que parece preconceito racial nas apólices de seguro cotadas online. "Existe também a ideia de cobrar preços diferentes das pessoas com base em seus dados ou localização." Quais são as bases das seguradoras de automóveis, sites de viagens, bancos e varejistas usam para citar preços mais altos para alguns leitores, alguns mais baixos? É algo tão bruto como um código postal, tão tênue quanto uma história de visitação a um site de compras?

p É a bolha do filtro, como o observador da Web esquerdista Eli Pariser chamou o fenômeno em seu livro de 2011. "Não é equilibrado, "diz Weinberg." Você pode aplicar isso ao Netflix, Twitter, Youtube, Facebook, em termos da bolha de filtro individualizada e o que eles geralmente estão promovendo. Examine os resultados da pesquisa. Compare usuários em diferentes locais e circunstâncias. Pergunte:os resultados da pesquisa caem, não é justo, além das linhas políticas e raciais? "

p Dá trabalho, mas não é complexo, Weinberg acrescenta. "São estudos que podem ser repetidos. O lado técnico disso não é muito complicado. Quando você lê um, verifique as metodologias publicadas. Eles fazem um 'rastreamento automatizado'. Um estagiário de graduação poderia executar os números, qualquer programador. Talvez eles finjam que são consumidores, preenchendo um formulário de inscrição online, e obter as cotações. "

p Observei como as organizações de notícias profissionais geralmente evitam que os repórteres mentem sobre suas identidades. Mas, "o que há de errado em testar diferentes residências ou rendas potenciais?" ele perguntou.

p "Alguém sempre pode obter os dados. A parte mais difícil é analisar os dados e ter certeza de que você não está tirando uma conclusão espúria. Depois de saber o que está procurando, não é tão difícil. Existem muitas ferramentas disponíveis. É interessante, é importante, repetir estudos; é como ciência, pode ser aplicado em várias áreas. "O que funciona na análise da Amazon funcionará com o seu varejista local, também. E com grandes empresas financeiras - Allstate e Nationwide, Fidelity e BlackRock, Fanáticos vs. Dick's.

p Weinberg está procurando patrocinar reportagens mais profissionais, incluindo trabalho centrado na Filadélfia. "Estou interessado em que alguém chame essas coisas para a tarefa. Estou interessado nesta área, Eu moro aqui. Estou interessado em qualquer reportagem sobre análises profundas do que as empresas de tecnologia estão fazendo. Relacionado ao que estamos fazendo (na DuckDuckGo) ou não. Acho que é pernicioso para todos. " p © 2018 The Philadelphia Inquirer
Distribuído pela Tribune Content Agency, LLC.