Deepfakes ainda são novos, mas 2024 pode ser o ano em que terão impacto nas eleições

Crédito:imagem gerada por IA

A desinformação apanhou muitas pessoas desprevenidas durante o referendo do Brexit de 2016 e as eleições presidenciais dos EUA. Desde então, desenvolveu-se uma mini-indústria para analisá-la e combatê-la.

No entanto, apesar disso, entrámos em 2024 – um ano com mais de 40 eleições em todo o mundo – com mais medo do que nunca da desinformação. Em muitos aspectos, o problema é mais desafiador do que era em 2016.

Os avanços tecnológicos desde então são uma das razões para isso, em particular o desenvolvimento que ocorreu com as mídias sintéticas, também conhecidas como deepfakes. É cada vez mais difícil saber se a mídia foi fabricada por um computador ou se é baseada em algo que realmente aconteceu.

Ainda não entendemos realmente o tamanho do impacto que os deepfakes podem ter nas eleições. Mas vários exemplos apontam o caminho para a forma como podem ser utilizados. Este pode ser o ano em que muitos erros serão cometidos e lições aprendidas.

Desde que a desinformação se propagou em torno das votações em 2016, investigadores produziram inúmeros livros e artigos, jornalistas reciclaram-se como peritos em verificação e verificação de factos, governos participaram em “grandes comités” e centros de excelência.

Além disso, as bibliotecas tornaram-se o foco das estratégias de construção de resiliência e surgiu uma série de novos organismos para fornecer análises, formação e recursos.

Esta atividade não foi infrutífera. Temos agora uma compreensão mais matizada da desinformação como um fenómeno social, psicológico, político e tecnológico. Os esforços para apoiar o jornalismo de interesse público e o cultivo do pensamento crítico através da educação também são promissores. Mais notavelmente, as grandes empresas tecnológicas já não pretendem ser plataformas neutras.

Entretanto, os decisores políticos redescobriram o seu dever de regular a tecnologia no interesse público.

IA e mídia sintética

As discussões regulamentares aumentaram a urgência agora que as ferramentas de IA para criar meios de comunicação sintéticos – meios de comunicação parcial ou totalmente gerados por computadores – se tornaram populares. Esses deepfakes podem ser usados para imitar a voz e a aparência de pessoas reais. A mídia Deepfake é impressionantemente realista e não requer muita habilidade ou recursos.

Este é o culminar de uma revolução digital mais ampla, através da qual sucessivas tecnologias tornaram a produção de conteúdos de alta qualidade acessível a quase todos. Em contraste, as estruturas regulamentares e os padrões institucionais para os meios de comunicação social foram concebidos principalmente numa época em que apenas uma minoria de profissionais tinha acesso à produção.

Deepfakes políticos podem assumir diferentes formas. As recentes eleições na Indonésia viram um vídeo deepfake “ressuscitando” o falecido presidente Suharto. Isto foi ostensivamente para encorajar as pessoas a votar, mas foi acusado de ser propaganda porque foi produzido pelo partido político que ele liderava.

Talvez um uso mais óbvio dos deepfakes seja espalhar mentiras sobre candidatos políticos. Por exemplo, áudio falso gerado por IA, divulgado dias antes das eleições parlamentares na Eslováquia, em Setembro de 2023, tentou retratar o líder da Eslováquia Progressista, Michal Šimečka, como tendo discutido com um jornalista como fraudar a votação.

Para além do esforço óbvio para minar um partido político, vale a pena notar como este deepfake, cuja origem não é clara, exemplifica esforços mais amplos para transformar as minorias em bodes expiatórios e demonizar o jornalismo convencional.

Felizmente, neste caso, o áudio não era de alta qualidade, o que tornou mais rápido e fácil para os verificadores de fatos confirmarem sua inautenticidade. Contudo, a integridade das eleições democráticas não pode depender da inépcia dos falsificadores.

A tecnologia de áudio Deepfake está em um nível de sofisticação que dificulta a detecção. Os vídeos deepfake ainda enfrentam certas características humanas, como a representação de mãos, mas a tecnologia ainda é jovem.

É também importante notar que o vídeo eslovaco foi divulgado durante os últimos dias da campanha eleitoral. Este é um momento nobre para lançar ataques de desinformação e manipulação porque os alvos e os jornalistas independentes estão muito ocupados e, portanto, têm pouco tempo para responder.

Se também é caro, demorado e difícil investigar deep fakes, então não está claro como as comissões eleitorais, os candidatos políticos, os meios de comunicação social ou mesmo o eleitorado devem responder quando surgem potenciais casos. Afinal, uma falsa acusação de um deepfake pode ser tão preocupante quanto o verdadeiro deepfake.

Outra forma como os deepfakes podem ser usados para afetar as eleições pode ser visto na forma como já são amplamente utilizados para assediar e abusar de mulheres e raparigas. Este tipo de assédio sexual enquadra-se num padrão existente de abuso que limita a participação política das mulheres.

Questionando a integridade eleitoral

A dificuldade é que ainda não está claro exatamente qual o impacto que os deepfakes poderiam ter nas eleições. É muito possível que vejamos outros usos semelhantes de deepfakes nas próximas eleições deste ano. E poderíamos até ver deepfakes usados de formas ainda não concebidas.

Mas também vale lembrar que nem toda desinformação é de alta tecnologia. Existem outras maneiras de atacar a democracia. Rumores e teorias conspiratórias sobre a integridade do processo eleitoral são uma tendência insidiosa. A fraude eleitoral é uma preocupação global, dado que muitos países são apenas democracias no nome.

É evidente que as plataformas de redes sociais permitem e impulsionam a desinformação de muitas formas, mas é um erro presumir que o problema começa e termina online. Uma forma de pensar sobre o desafio da desinformação durante as próximas eleições é pensar na força dos sistemas que deveriam defender a democracia.

Existe um sistema de mídia independente capaz de fornecer investigações de alta qualidade no interesse público? Existem administradores e órgãos eleitorais independentes? Existem tribunais independentes para julgar, se necessário?

E existe compromisso suficiente com os valores democráticos em detrimento do interesse próprio entre os políticos e partidos políticos? Neste ano de eleições, poderemos muito bem descobrir a resposta a estas questões.

Fornecido por The Conversation

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.