p Um novo estudo da Escola de Direito da Universidade de Nova York e do AI Now Institute da NYU conclui que os sistemas de policiamento preventivo correm o risco de exacerbar a discriminação no sistema de justiça criminal se confiarem em "dados sujos". p A aplicação da lei tem estado sob escrutínio nos últimos anos por práticas que resultam em agressão desproporcional contra suspeitos de minorias, fazendo com que alguns perguntem se a tecnologia - especificamente, software de policiamento preditivo - pode diminuir as ações discriminatórias.

p Contudo, um novo estudo da Escola de Direito da Universidade de Nova York e do AI Now Institute da NYU conclui que os sistemas de policiamento preditivo, na verdade, correm o risco de agravar a discriminação no sistema de justiça criminal se confiarem em "dados sujos" - dados criados a partir de falhas, racialmente preconceituoso, e às vezes práticas ilegais.

p Os pesquisadores ilustram esse fenômeno com dados de estudos de caso de Chicago, Nova Orleans, e o condado de Maricopa, no Arizona. Seu papel, "Dados Sujos, Predições ruins:como as violações dos direitos civis impactam os dados policiais, Sistemas de policiamento preditivo, e justiça, "está disponível em SSRN.

p "Escolhemos esses sites porque encontramos uma sobreposição entre evidências amplamente documentadas de práticas policiais corruptas ou ilegais e interesses significativos, desenvolvimento, e uso atual ou anterior de sistemas de policiamento preditivo. Isso nos levou a examinar os riscos de que um influenciasse o outro, "explica Jason Schultz, professor de direito clínico e um dos co-autores do artigo.

p Os autores, que incluem Rashida Richardson, diretor de pesquisa política do AI Now Institute, e Kate Crawford, co-diretor do AI Now Institute, identificou 13 jurisdições (incluindo os estudos de caso mencionados acima) com instâncias documentadas de práticas policiais ilegais ou tendenciosas que também exploraram ou implantaram sistemas de policiamento preditivo durante os períodos de atividade ilegal.

p O Departamento de Polícia de Chicago, por exemplo, estava sob investigação federal por práticas ilegais de polícia quando implementou um sistema informatizado que identifica pessoas em risco de se tornarem vítimas ou agressores em um tiroteio ou homicídio. O estudo revelou que o mesmo grupo demográfico de residentes que foram identificados pelo Departamento de Justiça como alvos do viés policial de Chicago coincidiu com aqueles que foram identificados pelo sistema preditivo.

p Outros exemplos mostraram riscos significativos de sobreposição, mas como o uso de sistemas de policiamento preventivo pelo governo é frequentemente secreto e escondido da supervisão pública, a extensão dos riscos permanece desconhecida, de acordo com o estudo.

p "Em jurisdições que têm histórias bem estabelecidas de práticas policiais corruptas, existe um risco substancial de que os dados gerados por tais práticas possam corromper os sistemas computacionais preditivos. Em tais circunstâncias, supervisão pública robusta e responsabilidade são essenciais, "Schultz disse.

p O autor principal Richardson adicionou, "Mesmo que este estudo tenha se limitado a jurisdições com histórias bem estabelecidas de má conduta policial e práticas policiais discriminatórias, sabemos que essas preocupações sobre as práticas e políticas de policiamento não se limitam a essas jurisdições, portanto, um maior escrutínio sobre os dados usados ​​em tecnologias de policiamento preditivo é necessário globalmente. "