Conteúdo online COVID-19 malicioso, incluindo conteúdo racista, desinformação e desinformação - prospera e se espalha online ao contornar os esforços de moderação de plataformas individuais de mídia social, de acordo com uma nova pesquisa publicada na revista Relatórios Científicos . Ao mapear grupos de ódio on-line em seis das principais plataformas de mídia social, pesquisadores da George Washington University mostram como conteúdo malicioso explora caminhos entre plataformas, destacando a necessidade das empresas de mídia social repensarem e ajustarem suas políticas de moderação de conteúdo.

Liderado por Neil Johnson, um professor de física da GW, a equipe de pesquisa decidiu entender como e por que o conteúdo malicioso se desenvolve tão bem online, apesar dos esforços de moderação significativos, e como isso pode ser interrompido. A equipe usou uma combinação de aprendizado de máquina e ciência de dados de rede para investigar como as comunidades de ódio online aprimoraram o COVID-19 como uma arma e usaram os eventos atuais para atrair novos seguidores.

"Até agora, desacelerar a disseminação de conteúdo malicioso online é como jogar um jogo de whack-a-mole, porque não existia um mapa do multiverso de ódio online, "Johnson, que também é pesquisador do GW Institute for Data, Democracia e Política, disse. "Você não pode vencer uma batalha se não tiver um mapa do campo de batalha. Em nosso estudo, nós traçamos um mapa deste tipo deste campo de batalha. Quer você esteja olhando para tópicos de ódio tradicionais, como o anti-semitismo ou o racismo anti-asiático em torno do COVID-19, o mapa do campo de batalha é o mesmo. E é esse mapa de links dentro e entre as plataformas que falta para entender como podemos desacelerar ou impedir a disseminação de conteúdo de ódio online. "

Os pesquisadores começaram mapeando como os clusters de ódio se interconectam para espalhar suas narrativas em plataformas de mídia social. Focando em seis plataformas - Facebook, VKontakte, Instagram, Gab, Telegram e 4Chan - a equipe começou com um determinado cluster de ódio e olhou para fora para encontrar um segundo cluster fortemente conectado ao original. Eles descobriram que as conexões mais fortes eram VKontakte no Telegram (40,83% das conexões de plataforma cruzada), Telegrama para 4Chan (11,09%), e Gab em 4Chan (10,90%).

Os pesquisadores então voltaram sua atenção para a identificação de conteúdo malicioso relacionado ao COVID-19. Eles descobriram que a coerência da discussão COVID-19 aumentou rapidamente nas fases iniciais da pandemia, com grupos de ódio formando narrativas e convergindo em torno de tópicos e desinformação do COVID-19. Para subverter os esforços de moderação por plataformas de mídia social, grupos que enviam mensagens de ódio usaram várias estratégias de adaptação a fim de se reagrupar em outras plataformas e / ou reentrar em uma plataforma, os pesquisadores descobriram. Por exemplo, os clusters freqüentemente mudam seus nomes para evitar a detecção pelos algoritmos dos moderadores, como a vacina para va $$ ine. De forma similar, Os clusters anti-semitas e anti-LGBTQ simplesmente adicionam cadeias de 1's ou A's antes de seus nomes.

"Como o número de plataformas independentes de mídia social está crescendo, esses clusters geradores de ódio têm grande probabilidade de fortalecer e expandir suas interconexões por meio de novos links, e provavelmente explorará novas plataformas que estão fora do alcance dos Estados Unidos e das jurisdições de outras nações ocidentais ". Johnson disse." As chances de fazer com que todas as plataformas de mídia social globalmente trabalhem juntas para resolver isso são muito pequenas. Contudo, nossa análise matemática identifica estratégias que as plataformas podem usar como um grupo para efetivamente desacelerar ou bloquear conteúdo on-line de ódio. "

Com base em suas descobertas, a equipe sugere várias maneiras de as plataformas de mídia social desacelerarem a disseminação de conteúdo malicioso:

• Aumente artificialmente os caminhos que o conteúdo malicioso precisa percorrer entre os clusters, aumentando as chances de sua detecção por moderadores e atrasando a disseminação de material urgente, como informações incorretas do COVID-19 como arma e conteúdo violento.
• Controle o tamanho da base de suporte de um cluster de ódio online colocando um limite no tamanho dos clusters.
• Apresente não malicioso, conteúdo mainstream, a fim de diluir efetivamente o foco de um cluster.

"Nosso estudo demonstra uma semelhança entre a propagação do ódio online e a propagação de um vírus, "Yonatan Lupu, professor associado de ciência política na GW e co-autor do artigo, disse. "Plataformas de mídia social individuais têm dificuldade em controlar a disseminação do ódio online, que reflete a dificuldade que países individuais ao redor do mundo tiveram em impedir a propagação do vírus COVID-19. "

Daqui para frente, Johnson e sua equipe já estão usando seu mapa e sua modelagem matemática para analisar outras formas de conteúdo malicioso - incluindo a transformação em arma de vacinas COVID-19 em que certos países estão tentando manipular o sentimento dominante para ganhos nacionalistas. Eles também estão examinando até que ponto os atores individuais, incluindo governos estrangeiros, pode desempenhar um papel mais influente ou controlador neste espaço do que outros.