A tecnologia de reconhecimento facial está sendo usada na guerra pela primeira vez. Pode ser um divisor de águas na Ucrânia, onde está sendo usado para identificar os mortos e reunir famílias. Mas se não conseguirmos lidar com a ética dessa tecnologia agora, podemos nos encontrar em um campo minado de direitos humanos.
O Ministério da Defesa da Ucrânia usa o software de reconhecimento facial Clearview AI desde março de 2022 para construir um caso de crimes de guerra e identificar os mortos – russos e ucranianos. O Ministério da Transformação Digital da Ucrânia disse que está usando a tecnologia Clearview AI para dar aos russos a chance de experimentar o "verdadeiro custo da guerra" e informar às famílias que, se quiserem encontrar os corpos de seus entes queridos, eles são " bem-vindo a vir para a Ucrânia".

A Ucrânia está recebendo acesso gratuito ao software. Também está sendo usado em postos de controle e pode ajudar a reunir refugiados com suas famílias.

A reação à privacidade

No mês passado, no entanto, o Gabinete do Comissário de Informação do Reino Unido (ICO) multou a Clearview AI em mais de 7,5 milhões de libras por coletar imagens de pessoas no Reino Unido e em outros lugares da web e das mídias sociais. Foi ordenada a exclusão das imagens e a interrupção da obtenção e uso de dados pessoais de residentes do Reino Unido disponíveis publicamente na internet. Originalmente, a ICO disse que pretendia multar a Clearview AI em £ 17 milhões.

De acordo com a ICO, dado o grande número de usuários de mídia social do Reino Unido, o banco de dados de rostos da Clearview AI provavelmente conterá uma quantidade significativa de imagens coletadas sem consentimento.

Um advogado da Clearview, AI Lee Wolosky, disse:"Embora apreciemos o desejo da ICO de reduzir sua penalidade monetária na Clearview AI, ainda assim mantemos nossa posição de que a decisão de impor qualquer multa é incorreta por uma questão de lei. Clearview AI não está sujeito à jurisdição da ICO, e a Clearview AI não tem negócios no Reino Unido neste momento."

A Clearview AI disse que quer 100 bilhões de imagens de rosto em seu banco de dados até o início de 2023 – o equivalente a 14 para cada pessoa na Terra. Várias fotos da mesma pessoa melhoram a precisão do sistema.

De acordo com o site da Clearview AI, sua tecnologia de reconhecimento facial ajuda as autoridades a combater o crime e permite que empresas de transporte, bancos e outras empresas comerciais detectem roubos, evitem fraudes e verifiquem identidades.

O Buzzfeed informou em fevereiro de 2020 que várias forças policiais britânicas usaram anteriormente o Clearview AI. Uma porta-voz da Clearview AI disse que a polícia do Reino Unido não tem acesso à sua tecnologia, enquanto os porta-vozes da Agência Nacional do Crime e da polícia metropolitana não confirmaram nem negaram o uso de ferramentas ou técnicas específicas. No entanto, em março de 2022, o College of Policing publicou novas orientações para as forças policiais do Reino Unido sobre o uso de reconhecimento facial ao vivo.

O governo do Reino Unido planeja substituir as principais leis de direitos humanos por uma nova Carta de Direitos Moderna, o que pode dificultar, se não impossível, que as pessoas contestem decisões com base em evidências de IA no tribunal, incluindo reconhecimento facial.

De acordo com o grupo de defesa Liberty, o projeto de lei provavelmente terá um impacto desproporcional em comunidades superpoliciadas, pois criaria diferentes classes de reclamantes com base em seu comportamento passado.

Uma ferramenta para a guerra

O executivo-chefe da Clearview AI, Hoan Ton-That, disse que seu software de reconhecimento facial permitiu que autoridades ucranianas e autoridades do governo armazenassem mais de 2 bilhões de imagens do VKontakte, um serviço de rede social russo. Hoan disse que o software pode ajudar as autoridades ucranianas a identificar soldados mortos com mais eficiência do que as impressões digitais e funciona mesmo se o rosto de um soldado estiver danificado.

Mas há evidências conflitantes sobre a eficácia do software de reconhecimento facial. De acordo com o Departamento de Energia dos EUA, a decomposição do rosto de uma pessoa pode reduzir a precisão do software. Por outro lado, pesquisas científicas recentes demonstraram resultados relativos à identificação de mortos semelhantes ou melhores que a avaliação humana.

Pesquisas sugerem que impressões digitais, registros dentários e DNA ainda são as técnicas de identificação mais confiáveis. Mas são ferramentas para profissionais treinados, enquanto o reconhecimento facial pode ser usado por não especialistas.

Outro problema sinalizado pela pesquisa é que o reconhecimento facial pode emparelhar duas imagens por engano ou não corresponder às fotos da mesma pessoa. Na Ucrânia, as consequências de qualquer erro potencial com a IA podem ser desastrosas. Um civil inocente pode ser morto se for identificado erroneamente como um soldado russo.

Uma história controversa

Em 2016, Hoan começou a recrutar engenheiros de ciência da computação para criar o algoritmo da Clearview AI. Mas foi apenas em 2019 que a empresa americana de reconhecimento facial começou a fornecer discretamente seu software para a polícia e agências policiais dos EUA.

Em janeiro de 2020, o New York Times publicou sua história:'A empresa secreta que pode acabar com a privacidade como a conhecemos'. Este artigo levou mais de 40 organizações de direitos civis e tecnologia a enviar uma carta ao Conselho de Supervisão de Privacidade e Liberdades Civis e quatro comitês do Congresso dos EUA, exigindo a suspensão do software de reconhecimento facial da Clearview AI.

Em fevereiro de 2020, após um vazamento de dados da lista de clientes da Clearview AI, o BuzzFeed revelou que o software de reconhecimento facial da Clearview AI estava sendo usado por indivíduos em mais de 2.200 departamentos policiais, agências governamentais e empresas em 27 países diferentes.

Em 9 de maio de 2022, a Clearview AI concordou em parar de vender o acesso ao seu banco de dados de rostos para indivíduos e empresas nos EUA, depois que a American Civil Liberties Union lançou um processo acusando a Clearview AI de violar uma lei de privacidade de Illinois.

Nos últimos dois anos, as autoridades de proteção de dados no Canadá, França, Itália, Áustria e Grécia multaram, investigaram ou proibiram a Clearview AI de coletar imagens de pessoas.

O futuro da Clearview AI no Reino Unido é incerto. O pior cenário para pessoas comuns e empresas seria se o governo do Reino Unido não levasse em conta as preocupações levantadas em resposta à sua consulta sobre a Modern Bill of Rights. A Liberty alertou para uma potencial "tomada de poder" dos direitos humanos.

O melhor resultado, na minha opinião, seria o governo do Reino Unido abandonar seus planos para uma Carta de Direitos Moderna. Isso também significaria que os tribunais do Reino Unido deveriam continuar a levar em consideração os casos do Tribunal Europeu de Direitos Humanos como jurisprudência.

A menos que as leis que regem o uso do reconhecimento facial sejam adotadas, o uso policial dessa tecnologia corre o risco de violar direitos de privacidade, proteção de dados e leis de igualdade.