p Quando Mark Zuckerberg disse ao Congresso que o Facebook usaria inteligência artificial para detectar notícias falsas postadas no site de mídia social, ele não foi particularmente específico sobre o que isso significava. Dado meu próprio trabalho usando análise de imagem e vídeo, Sugiro que a empresa tenha cuidado. Apesar de algumas falhas potenciais básicas, A IA pode ser uma ferramenta útil para detectar propaganda online - mas também pode ser surpreendentemente boa na criação de material enganoso. p Os pesquisadores já sabem que as notícias falsas online se espalham muito mais rápida e amplamente do que as notícias reais. Minha pesquisa descobriu que postagens online com informações médicas falsas geram mais visualizações, comentários e curtidas do que aqueles com conteúdo médico preciso. Em um mundo online onde os espectadores têm atenção limitada e estão saturados de opções de conteúdo, muitas vezes parece que informações falsas são mais atraentes ou envolventes para os espectadores.

p O problema está piorando:em 2022, as pessoas nas economias desenvolvidas podem encontrar mais notícias falsas do que informações reais. Isso poderia provocar um fenômeno que os pesquisadores apelidaram de "vertigem da realidade" - em que os computadores podem gerar um conteúdo tão convincente que as pessoas comuns podem ter dificuldade em descobrir o que é verdade.

p Detectando falsidade

p Algoritmos de aprendizado de máquina, um tipo de IA, têm tido sucesso por décadas no combate ao spam de e-mail, analisando o texto das mensagens e determinando a probabilidade de uma mensagem em particular ser uma comunicação real de uma pessoa real - ou uma solicitação distribuída em massa de produtos farmacêuticos ou reivindicação de uma fortuna perdida há muito tempo.

p Com base neste tipo de análise de texto no combate ao spam, Os sistemas de IA podem avaliar o quão bem o texto de uma postagem, ou um título, compara com o conteúdo real de um artigo que alguém está compartilhando online. Outro método poderia examinar artigos semelhantes para ver se outras mídias de notícias têm fatos diferentes. Sistemas semelhantes podem identificar contas específicas e sites de origem que espalham notícias falsas.

p Um ciclo sem fim

p Contudo, esses métodos presumem que as pessoas que espalham notícias falsas não mudam suas abordagens. Eles costumam mudar de tática, manipular o conteúdo de postagens falsas para torná-las mais autênticas.

p Usar IA para avaliar informações também pode expor - e ampliar - certos preconceitos na sociedade. Isso pode estar relacionado ao gênero, origem racial ou estereótipos de bairro. Pode até ter consequências políticas, potencialmente restringindo a expressão de determinados pontos de vista. Por exemplo, O YouTube cortou a publicidade de certos tipos de canais de vídeo, custando dinheiro aos seus criadores.

p O contexto também é fundamental. O significado das palavras pode mudar com o tempo. E a mesma palavra pode significar coisas diferentes em sites liberais e conservadores. Por exemplo, uma postagem com os termos "WikiLeaks" e "DNC" em um site mais liberal pode ser mais provavelmente uma notícia, enquanto em um site conservador, pode se referir a um determinado conjunto de teorias da conspiração.

p Usando IA para fazer notícias falsas

p O maior desafio, Contudo, de usar IA para detectar notícias falsas é que ela coloca a tecnologia em uma corrida armamentista contra si mesma. Os sistemas de aprendizado de máquina já estão se revelando assustadoramente capazes de criar o que está sendo chamado de "deepfakes" - fotos e vídeos que substituem de forma realista o rosto de uma pessoa por outra, para fazer parecer que, por exemplo, uma celebridade foi fotografada em uma pose reveladora ou uma figura pública está dizendo coisas que nunca diria. Mesmo os aplicativos de smartphone são capazes desse tipo de substituição - o que torna essa tecnologia disponível para quase qualquer pessoa, mesmo sem habilidades de edição de vídeo de nível de Hollywood.

p Os pesquisadores já estão se preparando para usar a IA para identificar essas falsificações criadas pela IA. Por exemplo, técnicas de ampliação de vídeo podem detectar mudanças no pulso humano que estabeleceriam se uma pessoa em um vídeo é real ou gerado por computador. Mas tanto os falsos quanto os detectores de mentira ficarão melhores. Algumas falsificações podem se tornar tão sofisticadas que se tornam muito difíceis de refutar ou rejeitar - ao contrário das gerações anteriores de falsificações, que usava uma linguagem simples e fazia afirmações facilmente refutadas.

p A inteligência humana é a verdadeira chave

p A melhor maneira de combater a disseminação de notícias falsas pode ser depender das pessoas. As consequências sociais das notícias falsas - maior polarização política, aumento do partidarismo, e a confiança desgastada na grande mídia e no governo - são significativos. Se mais pessoas soubessem que as apostas eram tão altas, eles podem ser mais cautelosos com as informações, particularmente se for mais baseado emocionalmente, porque essa é uma forma eficaz de chamar a atenção das pessoas.

p Quando alguém vê uma postagem irritante, essa pessoa faria melhor em investigar as informações, em vez de compartilhá-lo imediatamente. O ato de compartilhar também dá credibilidade a uma postagem:quando outras pessoas a veem, eles registram que foi compartilhado por alguém que eles conhecem e presumivelmente confiam pelo menos um pouco, e são menos propensos a notar se a fonte original é questionável.

p Sites de mídia social como YouTube e Facebook podem decidir voluntariamente rotular seu conteúdo, mostrando claramente se um item que supostamente é uma notícia foi verificado por uma fonte confiável. Zuckerberg disse ao Congresso que deseja mobilizar a "comunidade" de usuários do Facebook para direcionar os algoritmos de sua empresa. O Facebook pode fazer esforços de verificação de crowd-source. A Wikipedia também oferece um modelo, de voluntários dedicados que rastreiam e verificam as informações.

p O Facebook poderia usar suas parcerias com organizações de notícias e voluntários para treinar IA, aprimorando continuamente o sistema para responder às mudanças dos propagandistas em tópicos e táticas. Isso não vai pegar todas as notícias postadas online, mas tornaria mais fácil para um grande número de pessoas distinguir fatos de falsos. Isso poderia reduzir as chances de que histórias fictícias e enganosas se tornassem populares online.

p De forma tranquilizadora, as pessoas que têm alguma exposição a notícias precisas são melhores em distinguir entre informações reais e falsas. A chave é ter certeza de que pelo menos parte do que as pessoas veem online é, na verdade, verdade. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.