Pesquisadores da Universidade de Notre Dame estão usando inteligência artificial para desenvolver um sistema de alerta precoce que identificará imagens manipuladas, vídeos falsos e desinformação online. O projeto é um esforço para combater o aumento de campanhas coordenadas de mídia social para incitar a violência, costurar discórdia e ameaçar a integridade das eleições democráticas.

O escalável, sistema automatizado usa recuperação de imagem baseada em conteúdo e aplica técnicas baseadas em visão computacional para erradicar memes políticos de múltiplas redes sociais.

"Memes são fáceis de criar e ainda mais fáceis de compartilhar, "disse Tim Weninger, professor associado do Departamento de Ciência da Computação e Engenharia da Notre Dame. “Quando se trata de memes políticos, eles podem ser usados ​​para ajudar a obter votos, mas também podem ser usados ​​para espalhar informações imprecisas e causar danos. "

Weninger, junto com Walter Scheirer, professor assistente do Departamento de Ciência da Computação e Engenharia da Notre Dame, e membros da equipe de pesquisa coletaram mais de dois milhões de imagens e conteúdo de várias fontes no Twitter e Instagram relacionados às eleições gerais de 2019 na Indonésia. Os resultados dessa eleição, em que o inclinado para a esquerda, o incumbente centrista obteve a maioria dos votos sobre o conservador, candidato populista, desencadeou uma onda de protestos violentos que deixou oito mortos e centenas feridos. O estudo encontrou campanhas espontâneas e coordenadas com a intenção de influenciar as eleições e incitar a violência.

Essas campanhas consistiam em imagens manipuladas exibindo alegações falsas e deturpação de incidentes, logotipos pertencentes a fontes de notícias legítimas sendo usados ​​em histórias de notícias fabricadas e memes criados com a intenção de provocar cidadãos e apoiadores de ambos os partidos.

Embora as ramificações de tais campanhas fossem evidentes no caso das eleições gerais da Indonésia, a ameaça às eleições democráticas no Ocidente já existe. A equipe de pesquisa da Notre Dame, composta por especialistas forenses digitais e especialistas em estudos de paz, disseram que estão desenvolvendo o sistema para sinalizar conteúdo manipulado para prevenir a violência, e para alertar jornalistas ou monitores eleitorais sobre ameaças potenciais em tempo real.

O sistema, que está em fase de pesquisa e desenvolvimento, seria escalonável para fornecer aos usuários opções personalizadas para monitorar o conteúdo. Embora muitos desafios permaneçam, como determinar um meio ideal de aumentar a ingestão e processamento de dados para resposta rápida, Scheirer disse que o sistema está sendo avaliado para a transição para uso operacional.

O desenvolvimento não está muito atrás quando se trata da possibilidade de monitorar as eleições gerais de 2020 nos Estados Unidos, ele disse, e sua equipe já está coletando dados relevantes.

"A era da desinformação está aqui, "disse Scheirer." Um falso substituto de atores em um filme popular pode parecer divertido e alegre, mas imagine um vídeo ou meme criado com o único propósito de colocar um líder mundial contra outro - dizendo palavras que eles realmente não disseram. Imagine a rapidez com que esse conteúdo pode ser compartilhado e espalhado entre plataformas. Considere as consequências dessas ações. "