A tecnologia de reconhecimento facial está se espalhando rapidamente. Já difundido na China, software que identifica pessoas comparando imagens de seus rostos com um banco de dados de registros está agora sendo adotado em grande parte do resto do mundo. É comum entre as forças policiais, mas também tem sido usado em aeroportos, estações ferroviárias e centros comerciais.

O rápido crescimento desta tecnologia desencadeou um debate muito necessário. Ativistas, políticos, acadêmicos e até mesmo forças policiais estão expressando sérias preocupações sobre o impacto que o reconhecimento facial poderia ter em uma cultura política baseada em direitos e democracia.

Questões de direitos humanos

Como alguém que pesquisa o futuro dos direitos humanos, Eu compartilho essas preocupações. Aqui estão dez razões pelas quais devemos nos preocupar com o uso da tecnologia de reconhecimento facial em espaços públicos.

(1) Isso nos coloca em um caminho para a vigilância automatizada de cobertor

O CCTV já está difundido em todo o mundo, mas para que os governos usem filmagens contra você, eles precisam encontrar clipes específicos de você fazendo algo que possam reivindicar como prova. A tecnologia de reconhecimento facial leva o monitoramento a novos níveis. Ele permite a vigilância automatizada e indiscriminada ao vivo de pessoas enquanto fazem seus negócios diários, dando às autoridades a chance de rastrear cada movimento seu.

(2) Opera sem uma estrutura legal ou regulatória clara

A maioria dos países não possui legislação específica que regule o uso de tecnologia de reconhecimento facial, embora alguns legisladores estejam tentando mudar isso. Este limbo legal abre a porta para abusos, como obter nossas imagens sem nosso conhecimento ou consentimento e usá-las de maneiras que não aprovaríamos.

(3) Isso viola os princípios da necessidade e proporcionalidade

Um princípio de direitos humanos comumente declarado, reconhecido por organizações da ONU ao Painel de Ética de Polícia de Londres, é que a vigilância deve ser necessária e proporcional. Isso significa que a vigilância deve ser restrita à perseguição de crimes graves, em vez de permitir a interferência injustificada em nossa liberdade e direitos fundamentais. A tecnologia de reconhecimento facial está em desacordo com esses princípios. É uma tecnologia de controle sintomática da desconfiança do Estado em seus cidadãos.

(4) Isso viola nosso direito à privacidade

O direito à privacidade é importante, mesmo em espaços públicos. Ele protege a expressão de nossa identidade sem intrusão desnecessária do estado ou de empresas privadas. Gravação indiscriminada e em grande escala da tecnologia de reconhecimento facial, armazenar e analisar nossas imagens prejudica esse direito porque significa que não podemos mais fazer nada em público sem que o estado saiba disso.

(5) Tem um efeito inibidor em nossa cultura política democrática

A vigilância geral pode impedir os indivíduos de comparecer a eventos públicos. Pode sufocar a participação em protestos políticos e campanhas de mudança. E pode desencorajar o comportamento não-conformista. Este efeito inibidor é uma violação grave do direito à liberdade de reunião, Associação, e expressão.

(6) Ele nega aos cidadãos a oportunidade de consentimento

Faltam informações detalhadas e específicas sobre como o reconhecimento facial é realmente usado. Isso significa que não temos a oportunidade de consentir com a gravação, analisar e armazenar nossas imagens em bancos de dados. Ao nos negar a oportunidade de consentir, nos é negado a escolha e o controle sobre o uso de nossas próprias imagens.

(7) Muitas vezes é impreciso

A tecnologia de reconhecimento facial promete uma identificação precisa. Mas vários estudos destacaram como os algoritmos treinados em conjuntos de dados com preconceito racial identificam erroneamente as pessoas de cor, especialmente mulheres negras. Esse viés algorítmico é particularmente preocupante se resultar em prisões ilegais, ou se leva agências públicas e empresas privadas a discriminar mulheres e pessoas de origens étnicas minoritárias.

(8) Pode levar a viés de automação

Se as pessoas que usam software de reconhecimento facial acreditam erroneamente que a tecnologia é infalível, pode levar a decisões erradas. Esse "viés de automação" deve ser evitado. Os resultados gerados por máquina não devem determinar como as agências estatais ou empresas privadas tratam os indivíduos. Operadores humanos treinados devem exercer controle significativo e tomar decisões com base na lei.

(9) Implica que existem listas de observação secretas do governo

Os bancos de dados que contêm nossas imagens faciais devem soar alarmes. Eles implicam que empresas privadas e agências de aplicação da lei estão compartilhando nossas imagens para criar listas de observação de possíveis suspeitos sem nosso conhecimento ou consentimento. Esta é uma séria ameaça aos nossos direitos individuais e liberdades civis. A segurança desses bancos de dados, e sua vulnerabilidade às ações de hackers, também é motivo de preocupação.

(10) Pode ser usado para atingir grupos já vulneráveis

A tecnologia de reconhecimento facial pode ser usada para vigilância geral. Mas também pode ser implantado seletivamente, por exemplo, para identificar migrantes e refugiados. A venda de software de reconhecimento facial para agências como a polêmica US Immigration and Customs Enforcement (ICE), que tem sido fortemente criticado por suas táticas para lidar com os migrantes, deve preocupar quem se preocupa com os direitos humanos. E o uso de dispositivos móveis portáteis com um aplicativo de reconhecimento facial pelas forças policiais levanta o espectro de um perfil racial aprimorado nas ruas.

Debate extremamente necessário

Com tantas preocupações sobre a tecnologia de reconhecimento facial, Precisamos desesperadamente de uma conversa mais proeminente sobre seu impacto em nossos direitos e liberdades civis. Sem a regulamentação adequada desses sistemas, corremos o risco de criar estados policiais distópicos no que antes eram gratuitos, países democráticos.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.