Notícias falsas já atiçaram as chamas da desconfiança em relação à mídia, política e instituições estabelecidas em todo o mundo. E embora novas tecnologias como inteligência artificial (IA) possam tornar as coisas ainda piores, também pode ser usado para combater a desinformação.

Quer parecer Obama? No passado, que pode ter exigido imitar fisicamente sua voz, estilo de truque de festa. E mesmo se você fosse muito bom nisso, quase certamente não representaria um perigo para nossa democracia. Mas a tecnologia mudou isso. Agora você pode fazer qualquer pessoa dizer qualquer coisa de maneira fácil e precisa por meio de IA. Basta usar o serviço de um programa online para gravar uma frase e ouvir o que você disse na voz de uma pessoa famosa.

Programas como este são frequentemente chamados de deep fakes - sistemas de IA que adaptam áudio, fotos e vídeos para fazer as pessoas dizerem e fazerem coisas que nunca fizeram.

Essas tecnologias podem lançar uma nova era de notícias falsas e desinformação online. Em 2017, Hany Farid, um cientista da computação no Dartmouth College, NÓS, quem detecta vídeos falsos disse que a rápida proliferação de novas técnicas de manipulação levou a uma "corrida armamentista". Imagine como serão as eleições quando não pudermos mais confiar em vídeo e áudio. Mas alguns pesquisadores agora estão reagindo e mostrando que a IA também pode ser usada para o bem.

"AI tem muitos problemas éticos, "disse Francesco Nucci, diretor de pesquisa de aplicações do Grupo de Engenharia, com sede na Itália. "Mas às vezes também pode ser a solução. Você pode usar IA de maneiras antiéticas para, por exemplo, criar e espalhar notícias falsas, mas você também pode usá-lo para fazer o bem, por exemplo, para combater a desinformação. "

Verificadores de fatos

Ele é o principal pesquisador do projeto Fandango, que visa fazer exatamente isso. A equipe está criando ferramentas de software para ajudar jornalistas e verificadores de fatos a detectar e combater notícias falsas, diz Nucci. Eles esperam servir aos jornalistas de três maneiras.

O primeiro componente é o que a Nucci chama de detecção independente de conteúdo, usando ferramentas que direcionam a forma do conteúdo.

Nucci explica que hoje, imagens e vídeos podem ser facilmente manipulados, seja por meio do Photoshop simples ou de técnicas mais complexas, como falsificações profundas. Os sistemas do Fandango podem fazer engenharia reversa dessas mudanças, e usar algoritmos para ajudar os jornalistas a identificar o conteúdo manipulado.

À medida que essas ferramentas analisam a forma, eles não verificam se o próprio conteúdo faz afirmações falsas, que é o que faz a segunda linha de pesquisa do Fandango. Aqui, eles vinculam histórias que foram comprovadas como falsas por verificadores de fatos humanos, e procure por páginas online ou postagens de mídia social com palavras e afirmações semelhantes.

"As ferramentas podem detectar quais notícias falsas compartilham a mesma raiz e permitir que jornalistas as investiguem, "disse Nucci.

Ambos os componentes dependem fortemente de vários algoritmos de IA, como o processamento da linguagem natural. O terceiro componente permite que jornalistas respondam a notícias falsas.

Uma história falsa pode, por exemplo, alegam que uma percentagem muito elevada de crimes num país europeu é cometida por imigrantes estrangeiros. Em teoria, isso pode ser uma afirmação fácil de refutar por causa da grande quantidade de dados abertos disponíveis, ainda assim, os jornalistas perdem um tempo valioso para encontrar esses dados.

Assim, a ferramenta do Fandango conecta todos os tipos de fontes de dados abertas europeias, e agrupa e visualiza. Os jornalistas podem usar, por exemplo, reuniu dados nacionais para tratar de reclamações sobre crimes ou aplicar dados dos satélites europeus Copernicus aos debates sobre mudanças climáticas.

"Desta forma, os jornalistas podem responder rapidamente a histórias falsas e não perder tempo, "disse Nucci.

Suas ferramentas estão sendo testadas pela emissora pública belga VRT, ANSA, a principal agência de notícias italiana, e CIVIO, uma organização espanhola sem fins lucrativos.

Detecção de notícias falsas

No entanto, detectar notícias falsas pode não ser apenas uma questão de encontrar afirmações falsas, mas também de analisar grandes quantidades de padrões de compartilhamento de mídia social, diz Michael Bronstein, professor da Universidade de Lugano na Suíça e do Imperial College London, o Reino Unido.

Ele lidera um projeto chamado GoodNews, que usa IA para fazer uma abordagem atípica à detecção de notícias falsas.

"A maioria das abordagens existentes olha para o conteúdo, "disse o Prof. Bronstein." Eles analisam características semânticas que são características de notícias falsas. Que funciona até certo ponto, mas se depara com todos os tipos de problemas.

"Existem, por exemplo, barreiras de linguagem, plataformas como o WhatsApp não fornecem acesso ao conteúdo porque ele é criptografado e, em muitos casos, notícias falsas podem ser uma imagem, que é mais difícil de analisar usando técnicas como processamento de linguagem natural. "

Então, o Prof. Bronstein e sua equipe mudaram este modelo de cabeça para baixo, olhando, em vez disso, como as notícias falsas se espalham.

Essencialmente, estudos anteriores mostram que notícias falsas são compartilhadas online de maneiras diferentes das notícias reais, diz o Prof. Bronstein. Notícias falsas podem ter muito mais compartilhamentos do que curtidas no Facebook, enquanto as postagens regulares tendem a ter mais curtidas do que compartilhamentos. Ao detectar padrões como esses, GoodNews atribui uma pontuação de credibilidade a uma notícia.

A equipe construiu seu primeiro protótipo, que usa aprendizado de máquina baseado em gráfico, uma técnica de IA na qual o Prof. Bronstein é um especialista. O protótipo é treinado com dados do Twitter, onde os pesquisadores rastreiam histórias verificadas por jornalistas e que são falsas. Os jornalistas, dessa forma, treinam o algoritmo de IA, mostrando quais histórias são falsas, e quais não são.

A equipe GoodNews espera rentabilizar este serviço através de uma start-up chamada Fabula AI, com sede em Londres. Embora eles esperem lançar o produto no final do ano, eles pretendem ter clientes como grandes empresas de mídia como Facebook e Twitter, mas também usuários individuais.

"Nossa visão mais ampla é que queremos nos tornar uma casa de classificação de credibilidade para notícias, da mesma forma que certas empresas avaliam a pontuação de crédito do consumidor de uma pessoa, "disse o Prof. Bronstein.

Resolver

Claro que isso deixa uma questão maior - a tecnologia pode realmente resolver notícias falsas? Ambos os pesquisadores estão céticos, mas a tecnologia convicta pode ajudar. Nucci enfatiza que o conceito de notícias falsas é contestado, e que as histórias muitas vezes não são inteiramente verdadeiras, mas também não totalmente falso.

"Notícias falsas não são uma questão matemática de algoritmos e dados, "disse ele." Mas uma questão muito filosófica de como lidamos com a verdade. No entanto, nossa tecnologia pode ajudar a melhorar a transparência em relação a declarações falsas e desinformação. "

O professor Bronstein diz que seria ingênuo esperar que a tecnologia resolvesse o problema das notícias falsas.

"Não se trata apenas de detectar notícias falsas. É também um problema de confiança e falta de pensamento crítico. As pessoas estão perdendo a confiança na mídia e nas instituições tradicionais, e isso não pode ser mitigado apenas por meio da tecnologia, " ele disse.

"Requer esforços de todas as partes interessadas, e esperançosamente nosso projeto pode desempenhar um papel neste esforço maior. "