p O vídeo da polícia em confronto com manifestantes desarmados após o assassinato de George Floyd pelo policial de Minneapolis Derek Chauvin encheu os feeds das redes sociais. Enquanto isso, a vigilância policial dos manifestantes permaneceu praticamente fora de vista. p Local, organizações de aplicação da lei estaduais e federais usam uma série de tecnologias de vigilância para identificar e rastrear manifestantes, de reconhecimento facial a drones de nível militar.

p O uso pela polícia dessas técnicas de vigilância no estilo de segurança nacional - justificadas como técnicas econômicas que evitam o preconceito e o erro humano - cresceu lado a lado com o aumento da militarização da aplicação da lei. Pesquisa extensa, incluindo o meu, mostrou que esses recursos de vigilância expansivos e poderosos têm exacerbado, em vez de reduzido, o viés, exagero e abuso no policiamento, e eles representam uma ameaça crescente às liberdades civis.

p Os esforços de reforma da polícia estão cada vez mais olhando para o uso de tecnologias de vigilância pelas organizações de aplicação da lei. Na esteira da atual agitação, IBM, A Amazon e a Microsoft travaram o uso policial da tecnologia de reconhecimento facial das empresas. E projetos de reforma da polícia apresentados pelos democratas na Câmara dos Representantes dos EUA exigem a regulamentação do uso de sistemas de reconhecimento facial pela polícia.

p Uma década de policiamento de big data

p Nem sempre vivemos em um mundo de câmeras policiais, sensores inteligentes e análises preditivas. A recessão e a fúria alimentaram o surgimento inicial das tecnologias de policiamento de big data. Em 2009, em face do federal, cortes no orçamento estadual e local causados ​​pela Grande Recessão, os departamentos de polícia começaram a procurar maneiras de fazer mais com menos. As empresas de tecnologia correram para preencher as lacunas, oferecendo novas formas de policiamento baseado em dados como modelos de eficiência e redução de custos.

p Então, em 2014, o assassinato policial de Michael Brown em Ferguson, Missouri, derrubou as relações policiais e comunitárias já desgastadas. As mortes de Michael Brown, Eric Garner, Philando Castile, Arroz Tamir, Walter Scott, Sandra Bland, Freddie Gray e George Floyd geraram protestos em todo o país e apelos por justiça racial e reforma policial. O policiamento foi levado ao modo de crise à medida que a indignação da comunidade ameaçava deslegitimar a estrutura de poder policial existente.

p Em resposta às ameaças gêmeas de pressões de custo e críticas da comunidade, os departamentos de polícia adotaram ainda mais empresas de tecnologia que vendem eficiências de big data e a esperança de que algo "orientado por dados" permitiria às comunidades ir além dos problemas humanos demais do policiamento. A análise preditiva e os recursos de vídeo com câmera foram vendidos como soluções objetivas para o preconceito racial. Em grande medida, a estratégia de relações públicas funcionou, que permitiu que a polícia adotasse o policiamento preditivo e aumentasse a vigilância digital.

p Hoje, em meio a uma nova indignação contra o racismo estrutural e a brutalidade policial, e à sombra de uma recessão econômica ainda mais profunda, as organizações de aplicação da lei enfrentam a mesma tentação de adotar uma solução baseada em tecnologia para problemas sociais profundos. Os chefes de polícia provavelmente vão querer virar a página dos atuais níveis de raiva e desconfiança da comunidade.

p Os perigos da vigilância de alta tecnologia

p Em vez de repetir os erros dos últimos 12 anos ou mais, as comunidades têm a oportunidade de rejeitar a expansão do policiamento de big data. Os perigos só aumentaram, os danos tornados claros pela experiência.

p Essas pequenas empresas iniciantes que inicialmente correram para o negócio de policiamento foram substituídas por grandes empresas de tecnologia com bolsos fundos e grandes ambições.

p A Axon capitalizou as demandas de responsabilização da polícia após os protestos em Ferguson e Baltimore para se tornar uma empresa multimilionária que fornece serviços digitais para câmeras corporais usadas pela polícia. A Amazon tem ampliado as parcerias com centenas de departamentos de polícia por meio de suas câmeras Ring e do aplicativo Neighbours. Outras empresas como a BriefCam, Palantir e Shotspotter oferecem uma série de análises de vídeo, análise de rede social e outras tecnologias de sensor com a capacidade de vender tecnologia a baixo custo no curto prazo com a esperança de obter vantagem de mercado a longo prazo.

p A própria tecnologia é mais poderosa. Os modelos algorítmicos criados há uma década são insignificantes em comparação com os recursos de aprendizado de máquina atuais. Os fluxos de câmeras de vídeo foram digitalizados e aumentados com análises e recursos de reconhecimento facial, transformando a vigilância estática em uma máquina do tempo virtual para encontrar padrões nas multidões. Somando-se à armadilha de dados estão os smartphones, casas e carros inteligentes, que agora permitem que a polícia descubra rastros digitais de indivíduos com relativa facilidade.

p A tecnologia está mais interconectada. Um dos fatores limitantes naturais da tecnologia de policiamento de big data de primeira geração foi o fato de que ela permaneceu isolada. Os bancos de dados não puderam se comunicar uns com os outros. Os dados não podiam ser facilmente compartilhados. Esse fator limitante diminuiu à medida que mais sistemas de dados agregados foram desenvolvidos dentro do governo e por fornecedores privados.

p A promessa de objetivo, a tecnologia imparcial não deu certo. O preconceito racial no policiamento não foi corrigido ligando uma câmera. Em vez disso, a tecnologia criou novos problemas, inclusive destacando a falta de responsabilização por instâncias de alto perfil de violência policial.

p Lições para controlar a espionagem policial

p Os danos do policiamento de big data foram repetidamente expostos. Programas que tentavam prever o comportamento dos indivíduos em Chicago e Los Angeles foram encerrados depois que auditorias devastadoras catalogaram seu impacto discriminatório e falha prática. Os sistemas preditivos baseados em local foram desativados em Los Angeles e em outras cidades que inicialmente adotaram a tecnologia. Escândalos envolvendo reconhecimento facial, tecnologia de análise de rede social e vigilância de sensor em larga escala servem como um aviso de que a tecnologia não pode resolver as questões mais profundas de raça, poder e privacidade que estão no cerne do policiamento moderno.

p A lição da primeira era do policiamento de big data é que as questões raciais, transparência e direitos constitucionais devem estar na vanguarda do design, regulamentação e uso. Cada erro pode ser atribuído a uma falha em ver como a tecnologia de vigilância se encaixa no contexto do poder policial moderno - um contexto que inclui questões de longa data de racismo e controle social. Cada solução aponta para abordar esse desequilíbrio de poder no front-end, por meio da supervisão local, envolvimento da comunidade e lei federal, não depois que a tecnologia foi adotada.

p Os debates sobre o defunding, desmilitarizar e reimaginar as práticas de aplicação da lei existentes deve incluir uma discussão sobre a vigilância policial. Há uma década de erros a serem aprendidos e os desafios que definem a privacidade e a justiça racial pela frente. A forma como os departamentos de polícia respondem ao toque de sereia da vigilância de big data revelará se eles estão em vias de repetir os mesmos erros. p Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.