p Espera-se que o Serviço de Polícia de Queensland (QPS) comece um julgamento usando inteligência artificial (IA) para determinar o risco futuro representado por perpetradores de violência doméstica conhecidos. p Perpetradores identificados como de "alto risco" - com base em ligações anteriores para um endereço, atividade criminal anterior e outros dados mantidos pela polícia - serão visitados em casa pela polícia antes que a violência doméstica aumente, e antes que qualquer crime seja cometido.

p É necessário encontrar melhores formas de melhorar a segurança das mulheres submetidas à violência doméstica. Contudo, usar a tecnologia de IA neste contexto pode ter consequências indesejadas - e o plano proposto levanta sérias questões sobre o papel da polícia na prevenção de incidentes de violência doméstica.

p A abordagem depende de um algoritmo que foi desenvolvido a partir de dados administrativos QPS existentes (QPRIME). Todos os algoritmos estatísticos devem avaliar o risco com base nos dados disponíveis, o que, por sua vez, significa que eles são tão bons quanto os dados que os sustentam.

p Especialistas que criticam o uso de ferramentas de avaliação de risco baseadas em dados no policiamento apontam para a falta de transparência nos tipos específicos de dados analisados, e também como as previsões baseadas nesses dados são executadas.

p Por causa de como a polícia opera, os principais dados capturados de forma mais consistente são informações sobre situações passadas para as quais a polícia foi chamada, e dados de história criminal.

p Usar essas informações para treinar um algoritmo de IA pode reforçar os preconceitos existentes no sistema de justiça criminal. Isso poderia criar um ciclo de feedback sem fim entre a polícia e os membros do público que têm mais contato com a polícia.

p Na Austrália, são aborígenes e ilhéus do Estreito de Torres. Não é difícil imaginar que, sob este novo regime, os aborígines e os habitantes das ilhas do Estreito de Torres serão mais visitados pela polícia.

p O representante do QPS, Ben Martain, disse que a polícia não poderá acusar alguém a quem bater na porta por um futuro crime suspeito.

p Ele também disse para o piloto, atributos de etnia e localização geográfica foram removidos antes de treinar o modelo de IA. Mas apesar disso, parece que os aborígines e os habitantes das ilhas do Estreito de Torres continuarão a ser visados ​​de forma desproporcional, uma vez que eles estão sobre-representados em todos os tipos de contato policial.

p Apresentando o risco

p O objetivo de tais estratégias baseadas em IA no policiamento é prevenir ou reduzir o crime, através de uma avaliação do risco de infracções futuras. Em teoria, isso significa que a polícia interviria cedo para impedir a ocorrência de um crime.

p Contudo, com esta abordagem, existem riscos que a polícia pode Criar crime. Uma batida na porta da polícia não seria bem-vinda na maioria das famílias - muito menos em uma onde a polícia já havia comparecido para fazer buscas ou fazer prisões.

p Neste programa "preventivo", os perpetradores e as vítimas com quem vivem podem estar nervosos, agitado ou mesmo irritado com a intrusão policial em sua casa sem motivo aparente.

p Uma pessoa visitada pode usar linguagem ofensiva ou se recusar a fornecer seu nome. Não seria surpreendente se isso gerasse acusações.

p Tais cobranças podem levar a pessoa visitada a ficar ainda mais nervosa, agitado ou zangado, e então eles podem descobrir que foram acusados ​​de agressão e resistência à polícia. Isso é popularmente conhecido como "trifeta", em que uma pessoa que de outra forma não ofendeu é finalmente acusada de linguagem ofensiva, resistir à prisão e agredir a polícia.

p Os poderes padrão na caixa de ferramentas da polícia são prender e acusar. Com o plano proposto pelo QPS, há um risco óbvio de alargar a rede de criminalização para ambos os perpetradores, bem como vítimas que podem ser erroneamente identificadas como perpetradores. Por exemplo, às vezes, as vítimas que usaram de violência em legítima defesa foram presas em vez do perpetrador.

p Trazendo ainda mais danos às vítimas

p O papel da vítima em tal programa também é motivo de preocupação. Qualquer programa que aprofunde a vigilância dos perpetradores também aprofunda a vigilância das vítimas.

p As vítimas nem sempre querem que a polícia intervenha em suas vidas. Em alguns casos, esta forma de policiamento proativo pode parecer uma extensão de controle, ao invés de ajudar. O que acontece quando a polícia visita e descobre que um perpetrador de alto risco e a vítima estão morando juntos novamente?

p As vítimas podem temer que as autoridades de proteção à criança se envolvam e se sintam obrigadas a encobrir o fato de que ainda estão com o agressor. E uma vez que a vítima foi pressionada a mentir, eles podem relutar em chamar a polícia na próxima vez que precisarem da intervenção policial.

p Em alguns casos, o perpetrador ou vítima pode decidir não seguir os conselhos de segurança dos policiais que o visitam. Não está claro o que a polícia pode fazer em uma situação em que pede a um perpetrador para sair, ou tentar levar uma vítima para um local seguro, mas eles se recusam.

p A missão de qualquer intervenção de violência doméstica deve ser restaurar o poder às vítimas. Mas sabemos que as intervenções não ajudam todas as mulheres (ou homens) igualmente. Desigualdades estruturais, incluindo raça e classe, significa que as intervenções são vivenciadas de maneiras diferentes por pessoas diferentes.

p A vítima terá uma palavra a dizer sobre se a polícia se engaja no policiamento proativo de seu perpetrador? Eles deveriam ter uma palavra a dizer?

p Existem opções mais seguras?

p No contexto da avaliação de risco, muitos especialistas argumentam que as mulheres muitas vezes (embora nem sempre) têm um forte senso de quando estão sob maior risco.

p As visitas de contato ordenadas pelo tribunal de família podem ser um daqueles momentos de alto risco. Ainda assim, nessas situações, as mulheres frequentemente denunciam a recusa da polícia em ajudar a mantê-las e a seus filhos em segurança. Como a voz da vítima é considerada na avaliação de risco com esta ferramenta?

p Uma preocupação particular é se a polícia está realmente equipada para intervir em circunstâncias onde não há crime. O representante da QPS, Ben Martain, disse que quando os perpetradores "não estão em um ponto de crise, em um estado emocional intensificado, ou afetados por drogas ou álcool "- eles são" geralmente mais receptivos a reconhecer isso como uma oportunidade decisiva em suas vidas ".

p Mas a própria polícia questionou seu papel nas circunstâncias de violência doméstica - em vez disso, destacou o papel potencial que os assistentes sociais podem ter, em seu lugar.

p Não está claro se a polícia é o serviço mais bem posicionado para intervir quando não há perturbação identificada. Queensland já possui protocolos de compartilhamento de informações envolvendo equipes encarregadas especificamente de responder às pessoas envolvidas em relacionamentos de violência doméstica de alto risco. Essas equipes incluem trabalhadores de suporte baseados na comunidade.

p Esse pode ser o melhor caminho para intervenção durante os períodos críticos de calma. p Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.