p O Facebook disponibilizou, pela primeira vez, dados sobre a escala de comentários abusivos postados em seu site. Isso pode ter sido feito sob a pressão crescente das organizações para que as empresas de mídia social sejam mais transparentes sobre o abuso online, ou para ganhar credibilidade após o escândalo de dados Cambridge Analytica. De qualquer jeito, os números não são uma leitura agradável. p Em um período de seis meses de outubro de 2017 a março de 20178, 21 milhões de fotos sexualmente explícitas, 3,5 milhões de postagens violentas e 2,5 milhões de formas de discurso de ódio foram removidos do site. Esses números ajudam a revelar alguns pontos marcantes.

p Como esperado, os dados indicam que o problema está piorando. Por exemplo, entre janeiro e março, estimou-se que a cada 10, 000 mensagens online, entre 22 e 27 continham violência gráfica, aumentou de 16 para 19 nos três meses anteriores. Isso destaca o fato de que, no Reino Unido, os processos por abuso online têm diminuído, conforme demonstrado no gráfico abaixo.

p No entanto, o que o Facebook não nos disse é igualmente significativo.

p A rede social está sob pressão crescente para combater o abuso em seu site, em particular, a remoção da propaganda terrorista após eventos como o ataque Westminster de 2017 e o bombardeio da Manchester Arena. Aqui, a empresa tem sido pró-ativa. Entre janeiro e março de 2018, O Facebook removeu 1,9 milhão de mensagens encorajando propaganda terrorista, um aumento de 800, 000 comentários em comparação com os três meses anteriores. Um total de 99,5% dessas mensagens foram localizadas com o auxílio de tecnologia de ponta.

p À primeira vista, parece que o Facebook desenvolveu com sucesso um software que pode remover esse conteúdo de seu servidor. Mas o Facebook não divulgou números que mostram como a propaganda terrorista é prevalente em seu site. Portanto, realmente não sabemos o quão bem-sucedido é o software nesse aspecto.

p Removendo postagens violentas

p O Facebook também usou tecnologia para ajudar na remoção de violência gráfica de seu site. Entre os dois períodos de três meses, houve um aumento de 183% na quantidade de postagens removidas que foram rotuladas graficamente como violentas. Um total de 86% desses comentários foram sinalizados por um sistema de computador.

p Mas também sabemos que os números do Facebook também mostram que até 27 em cada 10, 000 comentários que passaram pela tecnologia de detecção continham violência gráfica. Não parece muitos, mas vale a pena considerar o número total de comentários postados no site por seus mais de 2 bilhões de usuários ativos. Uma estimativa sugere que 510, 000 comentários são postados a cada minuto. Se preciso, isso significaria 1, 982, 880 comentários violentos são postados a cada 24 horas.

p Para compensar as falhas em seu software de detecção, Facebook, como outras redes sociais, há anos confia na autorregulação, com os usuários encorajados a relatar comentários que eles acreditam não deveriam estar no site. Por exemplo, entre janeiro e março de 2018, O Facebook removeu 2,5 milhões de comentários que foram considerados discurso de ódio, ainda apenas 950, 000 (38%) dessas mensagens foram sinalizadas por seu sistema. Os outros 62% foram relatados por usuários. Isso mostra que a tecnologia do Facebook não está conseguindo combater adequadamente o discurso de ódio em sua rede, apesar da crescente preocupação de que os sites de redes sociais estejam alimentando crimes de ódio no mundo real.

p Quantos comentários são relatados?

p Isso nos leva a outro número significativo não incluído nos dados divulgados pelo Facebook:o número total de comentários relatados pelos usuários. Como este é um mecanismo fundamental para combater o abuso online, a quantidade de relatórios feitos à empresa deve ser disponibilizada ao público. Isso nos permitirá entender toda a extensão dos comentários abusivos feitos online, enquanto deixa claro o número total de mensagens que o Facebook não remove do site.

p A decisão do Facebook de divulgar dados expondo a escala de abuso em seu site é um passo significativo. Twitter, por contraste, foi solicitada informação semelhante, mas se recusou a divulgá-la, alegar que seria enganoso. Claramente, nem todos os comentários sinalizados por usuários de sites de redes sociais violarão seus termos e condições. Mas a falha do Twitter em divulgar essas informações sugere que a empresa não está disposta a revelar a escala do abuso em seu próprio site.

p Contudo, até mesmo o Facebook ainda tem um longo caminho a percorrer para chegar à transparência total. Idealmente, todos os sites de redes sociais divulgariam relatórios anuais sobre como estão lidando com o abuso online. Isso permitiria aos reguladores e ao público responsabilizar mais diretamente as empresas por falhas na remoção do abuso online de seus servidores. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.