Há muito discurso de ódio antissemita nas mídias sociais, e os algoritmos são parcialmente culpados
Crédito:Unsplash/CC0 Public Domain
Os incidentes antissemitas mostraram um aumento acentuado nos Estados Unidos. A Liga Anti-Difamação, um grupo judaico de direitos civis com sede em Nova York que acompanha casos desde 1979, descobriu que houve 2.717 incidentes em 2021. Isso representa um aumento de 34% em relação a 2020. Na Europa, a Comissão Europeia encontrou um aumento de sete vezes nas postagens antissemitas em contas em francês e um aumento de mais de treze vezes nos comentários antissemitas nos canais alemães durante a pandemia.
Juntamente com outros estudiosos que estudam o antissemitismo, começamos a observar como a tecnologia e o modelo de negócios das plataformas de mídia social estavam impulsionando o antissemitismo. Um livro de 2022 que co-editamos, "Antisemitism on Social Media", oferece perspectivas dos EUA, Alemanha, Dinamarca, Israel, Índia, Reino Unido e Suécia sobre como algoritmos no Facebook, Twitter, TikTok e YouTube contribuem para espalhar o antissemitismo.
Como é o antissemitismo nas mídias sociais? O ódio contra os judeus nas mídias sociais é frequentemente expresso em representações estereotipadas de judeus que derivam da propaganda nazista ou na negação do Holocausto.
Postagens antissemitas nas redes sociais também expressam ódio contra os judeus que se baseia na noção de que todos os judeus são sionistas – isto é, eles fazem parte do movimento nacional que apoia Israel como um estado judeu – e o sionismo é construído como um mal inato.
No entanto, o anti-semitismo de hoje não é apenas dirigido aos israelenses e nem sempre assume a forma de slogans tradicionais ou discurso de ódio. O antissemitismo contemporâneo se manifesta de diversas formas como GIFs, memes, vlogs, comentários e reações como curtidas e desgostos nas plataformas.
A estudiosa Sophie Schmalenberger descobriu que o antissemitismo é expresso não apenas em linguagem e imagens contundentes e ofensivas nas mídias sociais, mas também em formas codificadas que podem facilmente passar despercebidas. Por exemplo, no Facebook, o partido radical de direita da Alemanha Alternative für Deutschland, ou AfD, omite a menção ao Holocausto em postagens sobre a Segunda Guerra Mundial. Também usa linguagem e retórica antissemita que apresentam o antissemitismo como aceitável.
O antissemitismo pode assumir formas sutis, como em emojis. A combinação emoji de uma estrela de Davi, um símbolo judaico e um rato lembra a propaganda nazista comparando judeus a vermes. Na Alemanha nazista, a constante repetição e normalização de tais representações levou à desumanização dos judeus e, eventualmente, à aceitação do genocídio.
Outras formas de antissemitismo nas mídias sociais são os ataques de trolls antissemitas:os usuários se organizam para interromper eventos online inundando-os com mensagens que negam o Holocausto ou espalham mitos de conspiração como QAnon faz.
As acadêmicas Gabi Weimann e Natalie Masri estudaram o TikTok. Eles descobriram que crianças e adultos jovens correm o risco de serem expostos, muitas vezes involuntariamente, ao antissemitismo na plataforma muito popular e de rápido crescimento, que já conta com mais de 1 bilhão de usuários em todo o mundo. Parte do conteúdo que é postado combina clipes de imagens da Alemanha nazista com novos textos menosprezando ou tirando sarro das vítimas do Holocausto.
A exposição contínua ao conteúdo antissemita em uma idade jovem, dizem os estudiosos, pode levar tanto à normalização do conteúdo quanto à radicalização do espectador do Tik-Tok.
Anti-semitismo algorítmico O antissemitismo é alimentado por algoritmos, que são programados para registrar engajamento. Isso garante que quanto mais engajamento uma postagem receber, mais usuários a verão. O engajamento inclui todas as reações, como curtidas e desgostos, compartilhamentos e comentários, incluindo contra-comentários. O problema é que as reações às postagens também desencadeiam acertos de dopamina recompensadores nos usuários. Como o conteúdo ultrajante cria mais engajamento, os usuários se sentem mais encorajados a postar conteúdo odioso.
No entanto, mesmo os usuários de mídia social que postam comentários críticos sobre conteúdo odioso não percebem que, devido à maneira como os algoritmos funcionam, acabam contribuindo para sua disseminação.
A pesquisa sobre recomendações de vídeos no YouTube também mostra como os algoritmos levam os usuários gradualmente a conteúdos mais radicais. O antissemitismo algorítmico é, portanto, uma forma do que o criminologista Matthew Williams chama de "ódio algorítmico" em seu livro "A Ciência do Ódio".
O que pode ser feito a respeito? Para combater o antissemitismo nas mídias sociais, as estratégias precisam ser baseadas em evidências. Mas nem as empresas de mídia social nem os pesquisadores dedicaram tempo e recursos suficientes a essa questão até agora.
O estudo do antissemitismo nas mídias sociais apresenta desafios únicos para os pesquisadores:eles precisam de acesso aos dados e financiamento para poder ajudar a desenvolver contraestratégias eficazes. Até agora, os estudiosos dependem da cooperação das empresas de mídia social para acessar os dados, que em sua maioria não são regulamentados.
As empresas de mídia social implementaram diretrizes para relatar o antissemitismo nas mídias sociais, e as organizações da sociedade civil têm exigido ações contra o antissemitismo algorítmico. No entanto, as medidas tomadas até agora são lamentavelmente inadequadas, se não perigosas. Por exemplo, o contradiscurso, que muitas vezes é promovido como uma estratégia possível, tende a amplificar o conteúdo de ódio.
Para abordar de forma significativa o discurso de ódio antissemita, as empresas de mídia social precisariam alterar os algoritmos que coletam e organizam dados de usuários para empresas de publicidade, que representam grande parte de sua receita.
Há uma disseminação global e sem fronteiras de postagens antissemitas nas mídias sociais acontecendo em uma escala sem precedentes. Acreditamos que será necessário o esforço coletivo de empresas de mídia social, pesquisadores e sociedade civil para combater esse problema.
+ Explorar mais Como as mídias sociais alimentam o antissemitismo
Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.