O aumento do discurso de ódio online é perturbador, tendência crescente em países ao redor do mundo, com graves consequências psicológicas e potencial de impacto, e até mesmo contribuir para, violência do mundo real. O contra-discurso gerado por cidadãos pode ajudar a desencorajar a retórica on-line odiosa, mas tem sido difícil quantificar e estudar. Até recentemente, estudos foram limitados a pequena escala, esforços rotulados à mão.

Um novo artigo publicado nos anais da Conferência de 2020 sobre Métodos Empíricos em Processamento de Linguagem Natural (EMNLP) oferece uma estrutura para estudar a dinâmica do ódio online e contra discurso. O artigo oferece a primeira classificação em grande escala de milhões dessas interações no Twitter. Os autores desenvolveram um algoritmo de aprendizagem para avaliar dados de uma situação única no Twitter alemão, e as descobertas sugerem que os movimentos organizados para neutralizar o discurso de ódio nas redes sociais são mais eficazes do que os indivíduos atacando por conta própria.

Os autores apresentarão seu trabalho, "Combater o ódio nas redes sociais:classificações em grande escala de ódio e contra discurso" durante o dia 20 de novembro, 2020, Workshop sobre abuso e danos online, que está sendo executado em conjunto com o EMNLP 2020.

"Eu vi essa grande mudança no discurso civil nos últimos dois ou três anos para ser muito mais odioso e muito mais polarizado, "diz Joshua Garland, Matemático e Bolsista de Complexidade Aplicada no Santa Fe Institute. "Então, para mim, uma pergunta interessante era:qual é a resposta apropriada quando você está sendo intimidado ou quando recebe discurso de ódio online? Você responde? Você tenta fazer com que seus amigos ajudem a protegê-lo? Você apenas bloqueia a pessoa? "

Para estudar essas questões cientificamente, os pesquisadores devem primeiro ter acesso a uma grande quantidade de dados do mundo real sobre discurso de ódio e contra-discurso, e a capacidade de distinguir entre os dois. Esses dados existiam, e Garland e o colaborador Keyan Ghazi-Zahedi do Instituto Max Planck na Alemanha descobriram isso em uma interação de cinco anos no Twitter alemão:quando um grupo alt-right foi para a plataforma com discurso de ódio, um movimento organizado se levantou para combatê-lo.

"A beleza desses dois grupos é que eles se autodenominam, "explica Mirta Galesic, o cientista social da equipe e professor de dinâmica social humana no SFI. Ela diz que os pesquisadores que estudam o contra-discurso geralmente precisam empregar centenas de alunos para codificar manualmente milhares de postagens. Mas Garland e Ghazi-Zahedi conseguiram inserir as postagens autoidentificadas em um algoritmo de aprendizado de máquina para automatizar grandes faixas da classificação. A equipe também contou com 20 a 30 codificadores humanos para verificar se as classificações da máquina correspondiam à intuição sobre o que é registrado como ódio e contra-discurso.

O resultado foi um conjunto de dados de tamanho sem precedentes que permite aos pesquisadores analisar não apenas instâncias isoladas de ódio e contra-discurso, mas também compare as interações de longa duração entre os dois.

A equipe coletou um conjunto de dados de milhões de tweets postados por membros dos dois grupos, usando esses tweets autoidentificados para treinar seu algoritmo de classificação para reconhecer o ódio e contra-discurso. Então, eles aplicaram seu algoritmo para estudar a dinâmica de cerca de 200, 000 conversas que ocorreram entre 2013 e 2018. Os autores planejam publicar em breve um artigo de acompanhamento analisando a dinâmica revelada por seu algoritmo.

"Agora podemos resolver um enorme conjunto de dados de 2016 a 2018 para ver como a proporção de ódio e contra-discurso mudou ao longo do tempo, quem consegue mais curtidas, quem é retuitado, e como eles responderam um ao outro ", diz Galesic.

A quantidade de dados, uma tremenda benção, também o torna "incrivelmente complexo, "Garland observa. Os pesquisadores estão no processo de comparar táticas para ambos os grupos e perseguir questões mais amplas, como se certas estratégias de contra-discurso são mais eficazes do que outras.

"O que espero é que possamos chegar a uma teoria social rigorosa que diga às pessoas como combater o ódio de uma forma produtiva e não polarizadora, "Garland diz, "e trazer a Internet de volta ao discurso civil."