Quando um senador dos EUA perguntou ao CEO do Facebook, Mark Zuckerberg, "Você pode definir discurso de ódio?" é sem dúvida a questão mais importante que as redes sociais enfrentam:como identificar o extremismo dentro de suas comunidades.

Os crimes de ódio no século 21 seguem um padrão familiar em que um discurso inflamado online se transforma em ações violentas. Antes de abrir fogo na sinagoga Tree of Life em Pittsburgh, o atirador acusado desabafou na rede social de extrema direita Gab sobre migrantes hondurenhos que viajam em direção à fronteira com os EUA, e a suposta conspiração judaica por trás de tudo. Então ele declarou, "Eu não posso sentar e assistir meu povo ser massacrado. Dane-se sua ótica, Estou entrando. "O padrão de extremistas descarregando sua intolerância online tem sido uma característica perturbadora de alguns crimes de ódio recentes. Mas a maior parte do ódio online não é tão flagrante, ou tão fácil de detectar.

Como descobri em meu estudo de 2017 sobre extremismo em redes sociais e blogs políticos, ao invés de preconceito aberto, a maior parte do ódio online se parece muito com o medo. Não é expresso em calúnias raciais ou pedidos de confronto, mas sim em alegações infundadas de invasores hispânicos invadindo o país, crime preto no branco ou lei Sharia se infiltrando nas cidades americanas. Narrativas histéricas como essas se tornaram o veículo preferido dos extremistas de hoje - e podem ser mais eficazes em provocar violência no mundo real do que o discurso de ódio estereotipado.

A facilidade de espalhar o medo

No Twitter, um meme popular que viajou recentemente descreve a "Rede Terrorista Islâmica" espalhada por um mapa dos Estados Unidos, enquanto uma conta do Facebook chamada "America Under Attack" compartilha um artigo com seus 17, 000 seguidores sobre os "Rapazes Furiosos e Gangbangers" marchando em direção à fronteira. E no Gab, inúmeros perfis falam de planos judaicos para sabotar a cultura americana, soberania e o presidente.

Embora não abertamente antagônico, essas notas tocam bem para um público que encontrou nas redes sociais um lugar onde pode expressar sua intolerância abertamente, contanto que eles sejam coloridos dentro das linhas. Eles podem evitar a exposição que o discurso de ódio tradicional atrai. Considerando que o encontro nacionalista branco em Charlottesville foi muito conhecido e revelador, redes sociais podem ser anônimas e discretas, e, portanto, libertador para o racista não declarado. Isso representa um grande desafio para plataformas como o Facebook, Twitter e YouTube.

Lutando contra o ódio

Claro que isso não é apenas um desafio para as empresas de mídia social. O público em geral está enfrentando a complexa questão de como responder a narrativas inflamatórias e preconceituosas que estão alimentando medos raciais e hostilidade subsequente. Contudo, as redes sociais têm a capacidade única de diminuir o volume da intolerância se determinarem que um usuário de fato violou seus termos de serviço. Por exemplo, em abril de 2018, O Facebook removeu duas páginas associadas ao nacionalista branco Richard Spencer. Alguns meses depois, O Twitter suspendeu várias contas associadas ao grupo de extrema direita The Proud Boys por violar sua política de "proibição de grupos extremistas violentos".

Ainda, alguns críticos argumentam que as redes não estão se movendo com rapidez suficiente. Há uma pressão crescente para que esses sites policiem o extremismo que floresceu em seus espaços, ou então se tornarão policiados. Uma pesquisa recente da Huffpost / YouGov revelou que dois terços dos americanos queriam redes sociais para impedir que os usuários postassem "discurso de ódio ou conteúdo racista".

Em resposta, O Facebook intensificou seus esforços anti-extremismo, relatando em maio que havia removido "2,5 milhões de peças de discurso de ódio, "mais de um terço dos quais foi identificado por meio de inteligência artificial, o resto por monitores humanos ou sinalizados por usuários. Mas mesmo com Zuckerberg prometido mais ação em novembro de 2018, a empresa reconheceu que ensinar sua tecnologia para identificar o discurso de ódio é extremamente difícil por causa de todos os contextos e nuances que podem alterar drasticamente esses significados.

Além disso, o consenso público sobre o que realmente constitui discurso de ódio é, na melhor das hipóteses, ambíguo. O conservador Cato Institute encontrou amplo desacordo entre os americanos sobre o tipo de discurso que deve ser qualificado como ódio, ou discurso ofensivo, ou crítica justa. E entao, essas discrepâncias levantam a questão óbvia:como um algoritmo pode identificar o discurso de ódio se nós, humanos, mal podemos defini-lo?

O medo acende o fusível

A ambigüidade do que constitui discurso de ódio está fornecendo ampla cobertura para extremistas modernos para infundir ansiedades culturais em redes populares. Isso representa talvez o perigo mais claro:estimular a paranóia racial das pessoas também pode ser extremamente poderoso para estimular a hostilidade.

O falecido estudioso de comunicação George Gerbner descobriu que, contrário à crença popular, a forte exposição à violência na mídia não tornou as pessoas mais violentas. Em vez, fez com que ficassem com mais medo de que outras pessoas fizessem violência contra eles, o que muitas vezes leva a uma desconfiança corrosiva e ressentimento cultural. Isso é precisamente o que os racistas de hoje estão explorando, e o que as redes sociais devem aprender a identificar.

Os posts que falam de conspirações judaicas para destruir a América, ou crime preto no branco, não estão chamando diretamente para a violência, mas estão ampliando visões preconceituosas que podem incitar os seguidores a agirem. Isso é precisamente o que aconteceu antes dos ataques mortais a uma igreja negra histórica em Charleston em 2015, e a sinagoga de Pittsburgh no mês passado.

Para redes sociais, o desafio é duplo. Eles devem primeiro decidir se continuarão hospedando racistas não violentos como Richard Spencer, que pediu "limpeza étnica pacífica, "e permanece ativo no Twitter. Ou, por falar nisso, Louis Farrakhan, líder da Nação do Islã, que recentemente comparou judeus a cupins, e continua a postar em sua página do Facebook.

Quando o Twitter e o Facebook permitem que esses perfis permaneçam ativos, as empresas emprestam a credibilidade de suas comunidades online a esses provocadores de racismo ou anti-semitismo. Mas também sinalizam que suas definições de ódio podem ser muito estreitas.

O discurso de ódio mais perigoso aparentemente não é mais transmitido com calúnias étnicas ou retórica delirante sobre a supremacia branca. Em vez, está em todas as redes sociais, à vista de todos, carregando hashtags como #WhiteGenocide, #BlackCrimes, #MigrantInvasion e #AmericaUnderAttack. Eles criam uma ilusão de ameaça iminente em que os radicais prosperam, e ao qual os inclinados à violência entre eles responderam.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.