Polêmico programa de reconhecimento facial da Amazon, Reconhecimento, identificou falsamente 28 membros do Congresso durante um teste do programa pela American Civil Liberties Union, o grupo de direitos civis disse quinta-feira.
Em seu teste, a ACLU digitalizou fotos de todos os membros do Congresso e fez com que o sistema as comparasse com um banco de dados público de 25, 000 fotos de fotos.
O grupo usou a configuração padrão de "limite de confiança" de 80 por cento para Rekognition, o que significa que o teste contou uma correspondência de face com 80 por cento de certeza ou mais.
Nessa configuração, o sistema identificou erroneamente 28 membros do Congresso, um número desproporcional dos quais eram pessoas de cor, marcando-os, em vez disso, como pessoas totalmente diferentes que foram presas por um crime.
Os rostos dos membros do Congresso usados no teste incluem Republicanos e Democratas, homens e mulheres e legisladores de todas as idades.
A Amazon respondeu que, ao usar o reconhecimento facial para atividades de aplicação da lei, ele recomenda definir o limite de confiança em 95 por cento ou mais.
Um porta-voz da Amazon Web Services disse em um comunicado que os resultados do teste poderiam ter sido melhorados com o aumento do limite de confiança. Embora 80 por cento seja um limite aceitável para fotos de itens e objetos do dia a dia, não é apropriado para identificar indivíduos com um "nível razoável de certeza".
Em seu relatório sobre suas descobertas, a ACLU disse que a configuração padrão para o programa era 80 por cento e que a Amazon recomenda esse nível para verificação de usuário com base no rosto.
A ferramenta é usada para reconhecimento facial em arenas fora da aplicação da lei. Por exemplo, durante o casamento real do Príncipe Harry e Meghan Markle em maio, A emissora britânica Sky News usou o Rekognition para ajudar a identificar celebridades quando entraram no Castelo de Windsor.
O software também foi usado pelo Pinterest para combinar imagens, por lojas para rastrear pessoas, para identificar conteúdo potencialmente inseguro ou impróprio online e para localizar texto em imagens.
Privacidade e policiamento
A Amazon foi criticada recentemente por vender o serviço de reconhecimento facial para agências de aplicação da lei por causa de preocupações de que ele possa ser usado para rastrear pessoas em suas vidas diárias, ou em protestos políticos ou em outras situações em que a maioria das pessoas presume que é anônima.
Por causa dessas preocupações, grupos de direitos civis, defensores da privacidade e até mesmo alguns funcionários e acionistas da Amazon pediram ao CEO Jeff Bezos para parar de permitir que a polícia e agências federais usem a tecnologia de reconhecimento facial.
Os resultados do teste da ACLU "demonstram por que o Congresso deve se juntar à ACLU para pedir uma moratória sobre o uso da vigilância facial pela aplicação da lei, "escreveu Jacob Snow, advogado de tecnologia e liberdades civis da ACLU do norte da Califórnia.
Dois anos atrás, A Amazon construiu a ferramenta de reconhecimento facial e de produto como uma forma de os clientes pesquisarem rapidamente um banco de dados de imagens e procurar correspondências. O rekognition requer que o usuário tenha dois conjuntos de imagens. O primeiro é geralmente um grande banco de dados de indivíduos conhecidos. O usuário então envia imagens individuais que o software compara com aquelas no grande banco de dados para encontrar o que ele acredita serem correspondências.
Snow disse que o produto foi comercializado "agressivamente" para a polícia. Pelo menos duas agências, um em Orlando, Flórida, e um no condado de Washington, Oregon, estão testando Rekognition atualmente.
O analista responsável pelo programa do condado de Washington diz que nunca dependeria de um software de reconhecimento facial para subir e falar com um suspeito em potencial, muito menos prendê-los.
O departamento não define um limite de confiança, porque todas as decisões são feitas por humanos, disse Chris Adzima, o analista sênior de sistemas de informação do Gabinete do Xerife do Condado de Washington em Hillsboro, Oregon.
“Quando temos uma imagem de uma investigação ativa, o investigador irá colocá-lo em nosso sistema e o sistema cuspirá os cinco resultados mais prováveis. Em seguida, o investigador analisará esses cinco para determinar se algum deles são pistas possíveis, " ele disse.
Mesmo assim, o investigador deve fazer a devida diligência, executando o nome para ver se a pessoa tinha um registro ou contato conhecido com vítimas em potencial.
Embora Adzima tenha dito que o condado de Washington tem um bom sucesso no uso de reconhecimento facial para ajudar a identificar pessoas que acabaram sendo vinculadas a crimes, "quase nenhum deles estava abaixo de um limite de confiança de 95 por cento, " ele disse.
A tecnologia de reconhecimento facial foi usada com sucesso para identificar o homem preso pelo tiroteio na redação da Capital Gazette em Baltimore, Maryland.
Mas a ACLU e outros defensores da privacidade dizem que a tecnologia é uma invasão de privacidade. E eles dizem que pode ser usado para localizar e rastrear imigrantes ou manifestantes.
Em maio, 34 grupos de direitos civis enviaram uma carta ao CEO da Amazon, Jeff Bezos, dizendo que as pessoas deveriam ser "livres para andar pelas ruas sem serem vigiadas pelo governo".
Nesse mesmo mês, membros do Congressional Black Caucus, também enviou uma carta para Bezos, que disseram estar preocupados com as "profundas consequências negativas não intencionais" que esta tecnologia pode ter para os afro-americanos, imigrantes indocumentados e manifestantes.
"A raça baseada em 'pontos cegos' na inteligência artificial, especialmente aqueles que se manifestam na tecnologia de reconhecimento facial, foram bem documentados, "dizia a carta.
Esses "pontos cegos" na IA de reconhecimento facial incluem um incidente em 2015, onde um aplicativo de fotos do Google identificou fotos de usuários afro-americanos como "gorilas" e um estudo divulgado no início deste ano pelo Instituto de Tecnologia de Massachusetts que encontrou um software de reconhecimento facial, usado para identificar o sexo de uma pessoa, teve uma taxa de erro de 0,8 por cento para homens de pele clara e 34,7 por cento para mulheres de pele escura. O estudo usou três tipos diferentes de software comercial de reconhecimento facial.
Seis membros do Congressional Black Caucus foram identificados erroneamente no teste de Rekognição da ACLU.
Representantes Jimmy Gomez (D-Calif.) E John Lewis (D-Ga.), que foram ambos identificados falsamente durante o teste, enviou uma carta a Bezos na quinta-feira pedindo uma reunião imediata para tratar dos "defeitos" da tecnologia "a fim de evitar resultados imprecisos".
© 2018 USA Today
Distribuído pela Tribune Content Agency, LLC.
