p A gigante de tecnologia dos Estados Unidos, Microsoft, se associou a uma universidade militar chinesa para desenvolver sistemas de inteligência artificial que poderiam aumentar as capacidades de vigilância e censura do governo. Dois senadores dos EUA condenaram publicamente a parceria, mas o que a Universidade de Tecnologia de Defesa Nacional da China deseja da Microsoft não é a única preocupação. p Como mostra minha pesquisa, o advento da repressão digital está afetando profundamente a relação entre o cidadão e o estado. As novas tecnologias estão equipando os governos com recursos sem precedentes para monitorar, rastrear e vigiar pessoas individualmente. Até mesmo governos em democracias com fortes tradições de Estado de Direito se sentem tentados a abusar dessas novas habilidades.

p Em estados com instituições irresponsáveis ​​e frequentes abusos dos direitos humanos, Os sistemas de IA provavelmente causarão maiores danos. A China é um exemplo notável. Sua liderança abraçou com entusiasmo as tecnologias de IA, e montou o estado de vigilância mais sofisticado do mundo na província de Xinjiang, rastrear os movimentos diários dos cidadãos e o uso do smartphone.

p A exploração dessas tecnologias apresenta um modelo assustador para outros autocratas e representa uma ameaça direta às sociedades democráticas abertas. Embora não haja evidências de que outros governos tenham replicado este nível de vigilância de IA, As empresas chinesas estão exportando ativamente as mesmas tecnologias subjacentes em todo o mundo.

p Aumento da dependência de ferramentas de IA nos EUA

p Os sistemas de inteligência artificial estão por toda parte no mundo moderno, ajudando a operar smartphones, motores de busca na internet, assistentes de voz digital e filas de filmes Netflix. Muitas pessoas não conseguem perceber a rapidez com que a IA está se expandindo, graças à quantidade cada vez maior de dados a serem analisados, melhorando algoritmos e chips de computador avançados.

p Sempre que houver mais informações disponíveis e a análise ficar mais fácil, governos estão interessados ​​- e não apenas os autoritários. Nos E.U.A., por exemplo, a década de 1970 viu revelações de que agências governamentais - como o FBI, CIA e NSA - estabeleceram redes de vigilância doméstica extensas para monitorar e assediar os manifestantes dos direitos civis, ativistas políticos e grupos indígenas americanos. Esses problemas não desapareceram:a tecnologia digital hoje aprofundou a capacidade de ainda mais agências de conduzir uma vigilância ainda mais invasiva.

p Por exemplo, A polícia dos EUA abraçou avidamente as tecnologias de IA. Eles começaram a usar um software destinado a prever onde os crimes acontecerão para decidir para onde enviar os policiais em patrulha. Eles também estão usando reconhecimento facial e análise de DNA em investigações criminais. Mas as análises desses sistemas mostram que os dados sobre os quais esses sistemas são treinados são frequentemente tendenciosos, levando a resultados injustos, como determinar falsamente que os afro-americanos têm maior probabilidade de cometer crimes do que outros grupos.

p Vigilância de IA em todo o mundo

p Em países autoritários, Os sistemas de IA podem estimular diretamente o controle doméstico e a vigilância, ajudando as forças de segurança interna a processar grandes quantidades de informações - incluindo postagens em mídias sociais, mensagens de texto, e-mails e chamadas telefônicas - com mais rapidez e eficiência. A polícia pode identificar tendências sociais e pessoas específicas que podem ameaçar o regime com base nas informações descobertas por esses sistemas.

p Por exemplo, o governo chinês tem usado IA em repressões em larga escala em regiões que abrigam minorias étnicas na China. Os sistemas de vigilância em Xinjiang e no Tibete foram descritos como "orwellianos". Esses esforços incluíram amostras de DNA obrigatórias, Monitoramento de rede Wi-Fi e câmeras de reconhecimento facial generalizadas, todos conectados a plataformas de análise de dados integradas. Com a ajuda desses sistemas, As autoridades chinesas têm, de acordo com o Departamento de Estado dos EUA, "detidos arbitrariamente" entre 1 e 2 milhões de pessoas.

p Minha pesquisa analisa 90 países ao redor do mundo com tipos de governo que variam de democracias autoritárias fechadas a falhas, incluindo a Tailândia, Turquia, Bangladesh e Quênia. Descobri que empresas chinesas estão exportando tecnologia de vigilância de IA para pelo menos 54 desses países. Freqüentemente, esta tecnologia é empacotada como parte do carro-chefe Belt and Road Initiative da China, que está financiando uma extensa rede de estradas, ferrovias, dutos de energia e redes de telecomunicações atendendo a 60% da população mundial e economias que geram 40% do PIB global.

p Por exemplo, Empresas chinesas como Huawei e ZTE estão construindo "cidades inteligentes" no Paquistão, as Filipinas e o Quênia, com extensa tecnologia de vigilância integrada. Por exemplo, A Huawei equipou Bonifacio Global City nas Filipinas com câmeras de alta definição conectadas à Internet que fornecem "vigilância de segurança inteligente 24 horas por dia, 7 dias por semana, com análise de dados para detectar crimes e ajudar a gerenciar o tráfego".

p Hikvision, Yitu e SenseTime estão fornecendo câmeras de reconhecimento facial de última geração para uso em lugares como Cingapura - que anunciou o estabelecimento de um programa de vigilância com 110, 000 câmeras montadas em postes de iluminação pela cidade-estado. O Zimbábue está criando um banco de dados nacional de imagens que pode ser usado para reconhecimento facial.

p Contudo, vender equipamentos avançados com fins lucrativos é diferente de compartilhar tecnologia com um propósito geopolítico expresso. Esses novos recursos podem plantar as sementes para a vigilância global:à medida que os governos se tornam cada vez mais dependentes da tecnologia chinesa para gerenciar suas populações e manter o poder, eles enfrentarão maior pressão para se alinharem com a agenda da China. Mas, por enquanto, parece que o principal motivo da China é dominar o mercado de novas tecnologias e ganhar muito dinheiro com o processo.

p IA e desinformação

p Além de fornecer recursos de vigilância abrangentes e refinados, A IA pode ajudar governos repressivos a manipular as informações disponíveis e a espalhar a desinformação. Essas campanhas podem ser automatizadas ou assistidas por automação, e implantar mensagens hiperpersonalizadas dirigidas a - ou contra - pessoas ou grupos específicos.

p A IA também sustenta a tecnologia comumente chamada de "deepfake, "em que algoritmos criam falsificações realistas de vídeo e áudio. Mudar as águas entre a verdade e a ficção pode ser útil em uma eleição apertada, quando um candidato pode criar vídeos falsos mostrando um oponente fazendo e dizendo coisas que nunca realmente aconteceram.

p Na minha opinião, os formuladores de políticas nas democracias devem pensar cuidadosamente sobre os riscos dos sistemas de IA para suas próprias sociedades e para as pessoas que vivem sob regimes autoritários em todo o mundo. Uma questão crítica é quantos países adotarão o modelo chinês de vigilância digital. Mas não são apenas os países autoritários que estão sentindo a influência. E também não são apenas as empresas chinesas que espalham a tecnologia:muitas empresas dos EUA, Microsoft incluído, mas IBM, Cisco e Thermo Fisher também, forneceram recursos sofisticados para governos desagradáveis. O uso indevido da IA ​​não se limita a estados autocráticos. p Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.