O rosto humano é especial. É simultaneamente público e pessoal. Nossos rostos revelam informações confidenciais sobre nós:quem somos, é claro, mas também nosso gênero, emoções, estado de saúde e muito mais.
Os legisladores da Austrália, como os de todo o mundo, nunca previram que nossos dados de rosto seriam coletados em escala industrial e usados ​​em tudo, desde nossos smartphones até câmeras de CFTV da polícia. Portanto, não devemos nos surpreender que nossas leis não tenham acompanhado o extraordinário aumento da tecnologia de reconhecimento facial.

Mas que tipo de leis precisamos? A tecnologia pode ser usada tanto para o bem quanto para o mal, então nem bani-la nem o atual free-for-all parecem ideais.

No entanto, falhas regulatórias deixaram nossa comunidade vulnerável a usos prejudiciais do reconhecimento facial. Para preencher a lacuna legal, propomos uma "lei modelo":um esboço de legislação que os governos da Austrália poderiam adotar ou adaptar para regular usos arriscados de reconhecimento facial, permitindo usos seguros.

O desafio das tecnologias de reconhecimento facial

Os casos de uso das tecnologias de reconhecimento facial parecem limitados apenas pela nossa imaginação. Muitos de nós não pensam em usar o reconhecimento facial para desbloquear nossos dispositivos eletrônicos. No entanto, a tecnologia também foi testada ou implementada em toda a Austrália em uma ampla gama de situações, incluindo escolas, aeroportos, lojas de varejo, clubes e locais de jogos de azar e autoridades.

À medida que o uso do reconhecimento facial cresce cerca de 20% ao ano, também aumenta o risco para os seres humanos, especialmente em contextos de alto risco, como o policiamento.

Nos EUA, a dependência da tecnologia de reconhecimento facial propensa a erros resultou em vários casos de injustiça, especialmente envolvendo pessoas negras. Isso inclui a prisão e detenção injustas de Robert Williams e a exclusão injusta de uma jovem negra de uma pista de patinação em Detroit.

Muitas das maiores empresas de tecnologia do mundo – incluindo Meta, Amazon e Microsoft – reduziram ou descontinuaram seus serviços relacionados ao reconhecimento facial. Eles citaram preocupações com a segurança do consumidor e a falta de regulamentação efetiva.

Isso é louvável, mas também provocou uma espécie de "falha regulatória de mercado". Enquanto essas empresas recuaram, outras empresas com menos escrúpulos conquistaram uma fatia maior do mercado de reconhecimento facial.

Veja a empresa americana Clearview AI. Ele raspou bilhões de imagens de rostos de mídias sociais e outros sites sem o consentimento dos indivíduos afetados e, em seguida, criou um serviço de correspondência de rostos que vendeu para a Polícia Federal Australiana e outros órgãos policiais em todo o mundo.

Em 2021, o Comissário Australiano de Informações e Privacidade descobriu que a Clearview AI e a AFP violaram a lei de privacidade da Austrália, mas ações de fiscalização como essa são raras.

No entanto, os australianos querem uma melhor regulamentação do reconhecimento facial. Isso foi demonstrado no relatório de 2021 da Comissão Australiana de Direitos Humanos, na investigação CHOICE de 2022 sobre o uso de tecnologia de reconhecimento facial por grandes varejistas e em pesquisas que nós do Instituto de Tecnologia Humana encomendamos como parte de nossa lei modelo.

Opções para reforma do reconhecimento facial

Quais opções a Austrália tem? A primeira é não fazer nada. Mas isso significaria aceitar que seremos desprotegidos do uso nocivo de tecnologias de reconhecimento facial e nos manteremos em nossa trajetória atual em direção à vigilância em massa.

Outra opção seria banir completamente a tecnologia de reconhecimento facial. Algumas jurisdições de fato instituíram moratórias sobre a tecnologia, mas elas contêm muitas exceções (para usos positivos) e são, na melhor das hipóteses, uma solução temporária.

Em nossa opinião, a melhor opção de reforma é uma lei que regule as tecnologias de reconhecimento facial de acordo com o risco que elas apresentam. Essa lei incentivaria o reconhecimento facial com claro benefício público, protegendo contra usos prejudiciais da tecnologia.

Uma lei baseada em risco para regulamentação de tecnologia de reconhecimento facial

Nossa lei modelo exigiria que qualquer pessoa desenvolvendo ou implantando sistemas de reconhecimento facial na Austrália conduzisse uma avaliação de impacto rigorosa para avaliar o risco de direitos humanos.

À medida que o nível de risco aumenta, também aumentam os requisitos ou restrições legais. Os desenvolvedores também seriam obrigados a cumprir um padrão técnico para reconhecimento facial, alinhado com os padrões internacionais de desempenho de IA e bom gerenciamento de dados.

A lei modelo contém uma proibição geral de usos de alto risco de aplicativos de reconhecimento facial. Por exemplo, um aplicativo de "análise facial" que pretendia avaliar a orientação sexual dos indivíduos e depois tomar decisões sobre eles seria proibido. (Infelizmente, esta não é uma hipótese absurda.)

A lei modelo também prevê três exceções à proibição de tecnologia de reconhecimento facial de alto risco:

1. o regulador pode permitir uma solicitação de alto risco se considerar que a solicitação é justificada pela lei internacional de direitos humanos
2. haveria um regime jurídico específico para as agências de aplicação da lei, incluindo um esquema de "mandado presencial" que forneceria supervisão independente, como acontece com outros mandados
3. aplicativos de alto risco podem ser usados ​​em pesquisas acadêmicas, com supervisão adequada.

Revisão pelo regulador e indivíduos afetados

Qualquer lei precisaria ser aplicada por um regulador com poderes e recursos apropriados. Quem deve ser este?

A maioria das partes interessadas que consultamos – incluindo usuários de negócios, empresas de tecnologia e representantes da sociedade civil – propôs que o Escritório do Comissário de Informação Australiano (OAIC) ​​seria adequado para ser o regulador da regulamentação facial. Para certos usuários sensíveis – como militares e certas agências de segurança – também pode ser necessário um regime de supervisão especializado.

O momento da reforma é agora

Nunca vimos tantos grupos e indivíduos da sociedade civil, indústria e governo tão engajados e alinhados com a necessidade de reforma da tecnologia de reconhecimento facial. Isso se reflete no apoio à lei modelo tanto do Conselho de Tecnologia da Austrália quanto da CHOICE.

Dado o extraordinário aumento dos usos do reconhecimento facial e um consenso emergente entre as partes interessadas, o procurador-geral federal deve aproveitar esse momento e liderar a reforma nacional. A primeira prioridade é apresentar um projeto de lei federal – que poderia facilmente se basear na nossa lei modelo. O procurador-geral também deve colaborar com os estados e territórios para harmonizar a lei australiana sobre reconhecimento facial.

Essa reforma proposta é importante em seus próprios termos:não podemos permitir que as tecnologias de reconhecimento facial permaneçam efetivamente não regulamentadas. Também demonstraria como a Austrália pode usar a lei para proteger contra usos nocivos de novas tecnologias, ao mesmo tempo em que incentiva a inovação para benefício público.

Mais informações sobre a lei modelo podem ser encontradas em nosso relatório "Tecnologia de reconhecimento facial:rumo a uma lei modelo". + Explorar mais

Novo relatório oferece plano para regulamentação da tecnologia de reconhecimento facial

Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.