Uma tarde em nosso laboratório, meu colega e eu estávamos testando nosso novo protótipo para um software de reconhecimento facial em um laptop. O software usava uma câmera de vídeo para escanear nossos rostos e adivinhar nossa idade e sexo. Ele adivinhou corretamente minha idade, mas quando meu colega, que era da África, experimentou, a câmera não detectou nenhum rosto. Tentamos acender as luzes da sala, ajustamos o assento e o fundo, mas o sistema ainda lutava para detectar seu rosto.
Depois de muitas tentativas fracassadas, o software finalmente detectou seu rosto, mas errou sua idade e deu o sexo errado.

Nosso software era apenas um protótipo, mas a dificuldade de trabalhar com tons de pele mais escuros reflete as experiências de pessoas de cor que tentam usar a tecnologia de reconhecimento facial. Nos últimos anos, pesquisadores demonstraram a injustiça nos sistemas de reconhecimento facial, descobrindo que os softwares e algoritmos desenvolvidos por grandes empresas de tecnologia são mais precisos em reconhecer tons de pele mais claros do que os mais escuros.

No entanto, recentemente, o Guardian informou que o Ministério do Interior do Reino Unido planeja fazer com que migrantes condenados por crimes escaneiem seus rostos cinco vezes por dia usando um relógio inteligente equipado com tecnologia de reconhecimento facial. Um porta-voz do Ministério do Interior disse que a tecnologia de reconhecimento facial não seria usada em requerentes de asilo que chegam ilegalmente ao Reino Unido e que o relatório sobre seu uso em infratores migrantes era "puramente especulativo".

Obtenha o equilíbrio certo

Haverá sempre uma tensão entre a segurança nacional e os direitos individuais. A segurança para muitos pode ter prioridade sobre a privacidade para alguns. Por exemplo, em novembro de 2015, quando o grupo terrorista ISIS atacou Paris, matando 130 pessoas, a polícia parisiense encontrou um telefone que um dos terroristas havia abandonado no local e leu mensagens armazenadas nele.

Há muitas nuances nesta questão. Devemos nos perguntar, quais direitos são restringidos por uma violação de privacidade, até que ponto, e quem julga se uma violação de privacidade está em equilíbrio com a gravidade de uma ofensa criminal?

No caso de criminosos tirarem fotos de seus rostos várias vezes ao dia, podemos argumentar que a violação de privacidade é do interesse da segurança nacional para a maioria das pessoas, se o crime for grave. O governo tem o direito de tomar tal decisão, pois é responsável pela segurança de seus cidadãos. Para ofensas menores, no entanto, o reconhecimento facial pode ser uma medida muito forte.

Em seu plano, o Home Office não fez distinção entre infratores menores e infratores graves; nem forneceu evidências convincentes de que o reconhecimento facial melhora a conformidade das pessoas com a lei de imigração.

Em todo o mundo, sabemos que é mais provável que o reconhecimento facial seja usado para policiar pessoas de cor, monitorando seus movimentos com mais frequência do que os de pessoas brancas. Isso ocorre apesar do fato de os sistemas de reconhecimento facial serem mais precisos com tons de pele mais claros do que mais escuros.

Tirar uma foto do seu rosto e enviá-la cinco vezes por dia pode parecer humilhante. Falhas com tons de pele mais escuros podem tornar a verificação no sistema mais do que apenas uma experiência frustrante. Pode haver sérias consequências para os infratores se a tecnologia falhar.

As falhas no reconhecimento facial também podem criar problemas de segurança nacional para o governo. Por exemplo, pode identificar erroneamente o rosto de uma pessoa como outra. A tecnologia de reconhecimento facial não está pronta para algo tão importante quanto a segurança nacional.

A alternativa

Outra opção que o governo está considerando para infratores migrantes é o rastreamento de localização. O monitoramento eletrônico já rastreia pessoas com antecedentes criminais no Reino Unido usando etiquetas de tornozelo, e faria sentido aplicar a mesma tecnologia a infratores migrantes e não migrantes igualmente.

O rastreamento de localização vem com suas próprias questões éticas para privacidade pessoal e vigilância racial. Devido à natureza intrusiva do monitoramento eletrônico, algumas pessoas que usam esses dispositivos podem sofrer de depressão, ansiedade ou pensamentos suicidas.

Mas a tecnologia de rastreamento de localização oferece opções, pelo menos. Por exemplo, os dados podem ser tratados com sensibilidade seguindo as diretrizes de privacidade de dados, como a Lei de Proteção de Dados do Reino Unido de 2018. Podemos minimizar a quantidade de dados de localização que coletamos rastreando a localização de alguém apenas uma ou duas vezes por dia. Podemos anonimizar os dados, tornando visíveis os nomes das pessoas apenas quando e onde for necessário.

O Home Office do Reino Unido pode usar dados de localização para sinalizar atividades suspeitas, como se um infrator entrar em uma área da qual foi impedido. Para infratores menores, não precisamos rastrear a localização exata da pessoa, mas apenas a área geral, como um código postal ou cidade.

Como sociedade, devemos nos esforçar para manter a dignidade e a privacidade das pessoas, exceto nos casos mais graves. Mais importante, devemos garantir que a tecnologia não tenha o potencial de discriminar um grupo de pessoas com base em sua etnia. A lei e o regulamento devem aplicar-se igualmente a todas as pessoas.

O porta-voz do Ministério do Interior acrescentou:"O público espera que monitoremos criminosos estrangeiros condenados ... Os criminosos estrangeiros não devem ter dúvidas de nossa determinação em deportá-los, e o governo está fazendo todo o possível para aumentar o número de criminosos estrangeiros sendo deportados. " + Explorar mais

O reconhecimento facial foi fundamental para identificar o suspeito de atirar nos EUA

Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.