p Imagine que você mora em uma cidade inteligente que conhece seu rosto e segue cada movimento seu - os lugares que você vai, as pessoas que você vê, e todas as coisas que você faz ao longo do caminho. p Hora extra, a inteligência artificial autônoma (IA) constrói um perfil que informa sobre a probabilidade de você cometer um crime. Quando esse risco é alto, a polícia toma medidas preventivas. Bem-vindo à hipervigilância e à próxima geração de policiamento preditivo.

p Tanto a Índia quanto a China estão atualmente implementando esse nível de vigilância para reduzir os índices de criminalidade e detectar terroristas antes que eles ataquem.

p O Japão também está buscando sistemas preditivos antes dos Jogos Olímpicos de Tóquio em 2020. Londres e outras partes do Reino Unido já usam tecnologia semelhante há algum tempo.

p Pode já estar acontecendo na cidade onde você mora.

p Pervasivo, vigilância em tempo real como essa é possível porque, mais poderosa, computadores de processamento de números podem processar torrentes de dados de reconhecimento de rosto e análise de marcha provenientes de milhares de câmeras de vídeo, tudo coordenado por IA avançada que pode dar sentido a tudo isso.

p Não muito tempo atrás, contamos com patrulhas policiais com olhos de águia para garantir a segurança pública. Foi quando vivíamos em comunidades pequenas o suficiente, onde as pessoas se conheciam de vista.

p Mas como as cidades continuaram a crescer, tornando-se muito grande para o policial sozinho, circuito fechado de televisão (CCTV), reconhecimento de rosto e sistemas preditivos de gerações anteriores entraram em uso.

p A moralidade da hiper-vigilância

p As opiniões estão divididas quanto à ética do policiamento preditivo.

p Os defensores da privacidade e os libertários civis têm preocupações, se não objeções, a este nível de vigilância - temendo que se tornasse um instrumento de discriminação.

p Enquanto isso, Os defensores da segurança pública e do contra-terrorismo argumentam que a tecnologia preditiva tem grande potencial para impedir ataques terroristas e outras ameaças à segurança pública.

p Ambos os argumentos têm força e validade, então a questão é onde exatamente traçamos a linha entre o interesse público e a liberdade individual?

p A resposta será diferente caso a caso. Cada jurisdição deve negociar a resposta levando em consideração todas as preocupações das partes interessadas.

p Desde que terroristas atacaram nos Estados Unidos em 11 de setembro, Em 2001, o grau de vigilância e busca nos aeroportos aumentou dramaticamente.

p Em tempo, o público que viaja passou a aceitar a situação como sendo do seu melhor interesse e dos outros passageiros.

p A privacidade começa e termina na porta da frente

p É geralmente aceito que você tem direito à privacidade em sua própria casa. Quando você fecha a porta da frente, você pode razoavelmente esperar que ninguém esteja olhando e ouvindo.

p A exceção é quando você está em casa, mas envolvido em atividades criminosas que ameaçam a comunidade. É aqui que traçamos a linha, neste caso, entre os direitos individuais e o bem maior.

p Mas quando você sai, qualquer um pode olhar para você se desejar. Eles também podem ouvir a conversa que você está tendo. Não há direito à privacidade do olhar do público, e nunca foi.

p Mas olhar é diferente de fazer previsões - e a verdade incômoda é que a tecnologia de policiamento preditivo tem o potencial de ser usada como ferramenta de opressão. Gerenciando este risco de forma aberta, a sociedade democrática é certamente um desafio, mas não um intransponível com freios e contrapesos.

p Pesando os riscos e benefícios

p Dada a experiência geral de policiamento preditivo, parece que há um forte argumento para seu uso contínuo.

p Na Austrália, por exemplo, 15 ataques terroristas foram supostamente frustrados nos últimos três anos por meio do trabalho policial apoiado por algoritmos de computador.

p A questão é, como podemos minimizar os riscos a um nível aceitável?

p A resposta curta é estabelecer uma estrutura legal que garanta a transparência ética em qualquer método de policiamento preditivo de IA, incluindo como os algoritmos são colocados juntos.

p Isso também garantiria rigorosamente que os dados alimentados nos sistemas preditivos sejam precisos e imparciais. Como acontece com qualquer sistema de computador, a saída é tão boa quanto a entrada - lixo em, lixo para fora, como diz o ditado.

p Isso é necessário para abordar as preocupações constantes sobre o viés inerente aos sistemas preditivos.

p Foi observado que nem todas as forças policiais são criadas iguais. Nos Estados Unidos, não há menos que 12, 000 forças policiais locais. É provável que haja diferenças, refletido na qualidade da liderança e na disponibilidade de recursos.

p Parceria humana / IA

p O policiamento não é perfeito e os oficiais humanos não acertam o tempo todo.

p Mas quando se trata de IA no policiamento, Acredito que sempre deve haver um lugar na aplicação da lei para os instintos refinados de um oficial humano experiente temperado por um sistema de freios e contrapesos.

p A tecnologia deve estar sempre subordinada ao ser humano, assumindo o papel de ajudante de apoio à decisão.

p Dessa maneira, quando a era da hiper-vigilância chegar à sua cidade natal, será um ser humano responsável, não uma máquina - por mais inteligente que seja - que decide se uma pessoa representa um risco sério para a segurança pública. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.