p A Austrália do Sul iniciou um teste de um novo aplicativo COVID para monitorar as chegadas ao estado. O primeiro-ministro da SA, Steven Marshall, afirmou que "todo australiano do sul deve se sentir muito orgulhoso de ser o piloto nacional do aplicativo de quarentena doméstico". p Ele então se gabou de que tinha "quase certeza de que a tecnologia que desenvolvemos no governo da Austrália do Sul se tornará o padrão nacional e será implementada em todo o país".

p Victoria também anunciou uma quarentena doméstica iminente com "suporte tecnológico", embora os detalhes permaneçam obscuros. A quarentena doméstica também estará disponível para chegadas internacionais, de acordo com o primeiro-ministro Scott Morrison.

p O aplicativo da Austrália do Sul tem recebido pouca atenção na Austrália, mas nos Estados Unidos a revista de tendência esquerdista Atlantic chamou-o de "tão orwelliano quanto qualquer outra no mundo livre". Veículos de direita como Fox News e Breitbart também se juntaram ao ataque, e pela primeira vez estou de acordo com eles.

p Rastreamento de localização e reconhecimento facial

p Apesar das alegações do Premier SA, este não é o primeiro aplicativo desse tipo a ser usado na Austrália. Um aplicativo semelhante de quarentena doméstica já está em uso para chegadas em WA, e, em alguns casos, o Território do Norte.

p Ambos os aplicativos usam software de geolocalização e reconhecimento facial para rastrear e identificar aqueles em quarentena. Os usuários são obrigados a provar que estão em casa quando solicitado aleatoriamente pelo aplicativo.

p Em SA, você tem 15 minutos para obter o software de reconhecimento de rosto e verificar se ainda está em casa. Em WA, é mais uma corrida. Você tem apenas 5 minutos antes de arriscar uma batida da polícia na porta.

p Outra diferença é que o aplicativo SA é opcional. Atualmente. O aplicativo WA já é obrigatório para chegadas de áreas de alto risco, como Victoria. Para áreas de risco extremo como NSW, é direto para um hotel de quarentena.

p Razões de preocupação

p Mas por que estamos desenvolvendo esses aplicativos de quarentena doméstica em primeiro lugar, quando já temos uma tecnologia barata para fazer isso? Se quisermos monitorar se as pessoas estão em casa (e isso é um grande E se ), uma das marcas de tornozelo já usadas por nossos serviços corretivos para detenção domiciliar não seria muito mais simples, mais seguro e mais robusto?

p Existem muitos motivos para se preocupar com os aplicativos de quarentena doméstica.

p Primeiro, eles provavelmente serão muito mais fáceis de hackear do que marcas de tornozelo. Quantos de nós hackeamos blocos geográficos para acessar a Netflix nos EUA, ou para assistir outro conteúdo digital de outro país? Falsificar a localização GPS em um smartphone não é muito mais difícil.

p Segundo, o software de reconhecimento facial costuma apresentar falhas, e é freqüentemente tendencioso contra pessoas de cor e contra mulheres. O documentário Coded Bias faz um ótimo trabalho desmascarando esses preconceitos.

p Apesar de anos de esforço, até mesmo os grandes gigantes da tecnologia como Google e Amazon foram incapazes de eliminar esses preconceitos de seus softwares. Tenho poucas esperanças de que o governo SA ou a empresa WA GenVis, os desenvolvedores dos dois aplicativos australianos de quarentena doméstica, terá feito melhor.

p De fato, a Comissão Australiana de Direitos Humanos pediu uma moratória sobre o uso de software de reconhecimento facial em ambientes de alto risco, como policiamento, até que uma melhor regulamentação esteja em vigor para proteger os direitos humanos e a privacidade.

p Terceiro, precisa haver um debate público e muito mais detalhado sobre questões como privacidade, e salvaguardas postas em prática com base nesta discussão, antes da tecnologia que está sendo usada.

p Com os aplicativos de check-in COVID, prometeram-nos que os dados seriam usados ​​apenas para fins de saúde pública. Mas as forças policiais da Austrália acessaram essas informações para outros fins em pelo menos seis ocasiões. Isso prejudica gravemente a confiança do público e o uso de tais aplicativos.

p Antes de ser lançado, o aplicativo COVIDSafe do Commonwealth tinha proibições legislativas postas em prática sobre o uso dos dados coletados para qualquer coisa, exceto rastreamento de contato. Isso talvez nos deu uma falsa sensação de segurança, já que os aplicativos de check-in COVID produzidos pelo estado não tinham nenhuma proteção legal desse tipo. Apenas alguns estados introduziram retroativamente legislação para fornecer tais proteções.

p Quarto, temos que nos preocupar com a forma como softwares como esse legitimam tecnologias como o reconhecimento facial que, em última análise, erodem direitos fundamentais como o direito à privacidade.

p Se os aplicativos de quarentena doméstica funcionarem com sucesso, eles abrirão a porta para o reconhecimento facial sendo usado em outros ambientes? Para identificar levantadores de loja? Para fornecer acesso ao bem-estar? Ou para a saúde? A que mundo orwelliano isso nos levará?

p Os perigos do reconhecimento facial

p Na China, já vimos software de reconhecimento facial usado para monitorar e perseguir a minoria uigur. Nos E.U.A, pelo menos três negros já acabaram erroneamente na prisão devido a erros de reconhecimento facial.

p O reconhecimento facial é uma tecnologia perigosa se não funcionar (como costuma acontecer). E perigoso se isso acontecer. Isso muda a velocidade, escala e custo da vigilância.

p Com o software de reconhecimento facial por trás das câmeras CCTV encontradas em muitas esquinas, você pode ser rastreado 24 horas por dia, 7 dias por semana. Você não é mais anônimo quando sai para fazer compras. Ou quando você protesta sobre a importância das vidas dos negros ou a emergência climática.

p Alta tecnologia não é a solução

p Softwares de alta tecnologia, como reconhecimento facial, não são uma solução para os problemas que atormentam a resposta da Austrália à pandemia. Não pode remediar a falha em comprar vacinas suficientes, a falha em construir instalações de quarentena dedicadas, ou a luta interna e a pontuação entre os estados e com a Commonwealth.

p Eu nunca pensei que diria isso, mas, Contudo, Acho que prefiro uma marca de tornozelo. E se a imagem da marca do tornozelo parece muito perturbadora para você, poderíamos fazer o que Hong Kong fez e torná-la uma pulseira. p Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.