Quando se espalhou a notícia de que o massacre na Nova Zelândia foi transmitido ao vivo no Facebook, Imediatamente pensei em Robert Godwin Sênior. Em 2017, Godwin foi assassinado em Cleveland, Ohio, e os relatórios iniciais indicaram que o invasor transmitiu no Facebook Live, na época, um recurso relativamente novo da rede social. Mais tarde, o Facebook esclareceu que o vídeo gráfico foi enviado após o evento, mas o incidente chamou a atenção do público para os riscos de violência ao vivo.

Na esteira do assassinato de Godwin, Eu recomendei que as transmissões do Facebook Live fossem atrasadas, pelo menos para usuários do Facebook que disseram à empresa que tinham menos de 18 anos. Dessa forma, usuários adultos teriam a oportunidade de sinalizar conteúdo impróprio antes que crianças fossem expostas a ele. O Facebook Live transmitiu assassinatos, bem como outros crimes graves, como agressão sexual, tortura e abuso infantil. Embora a empresa tenha contratado mais de 3, 000 moderadores de conteúdo humano adicionais, O Facebook não é nada melhor em impedir que violência horrível seja transmitida ao vivo online sem qualquer filtro ou aviso para os usuários.

Nas 24 horas após o massacre da Nova Zelândia, 1,5 milhão de vídeos e imagens dos assassinatos foram enviados para os servidores do Facebook, a empresa anunciou. O Facebook destacou o fato de que 1,2 milhão deles "foram bloqueados no upload". Contudo, como pesquisador e educador de mídia social, Eu ouvi isso como uma admissão de que 300, 000 vídeos e imagens de um assassinato em massa passaram por seus sistemas automatizados e ficaram visíveis na plataforma.

A empresa divulgou recentemente alguns detalhes analíticos e observou que menos de 200 pessoas assistiram à transmissão ao vivo do massacre, e isso surpreendentemente, nenhum usuário relatou isso ao Facebook antes de terminar. Esses detalhes deixam dolorosamente claro como o Facebook é dependente dos usuários para sinalizar conteúdo prejudicial. Eles também sugerem que as pessoas não sabem como denunciar conteúdo impróprio - ou não têm confiança de que a empresa irá agir de acordo com a reclamação.

O vídeo que permaneceu após o término da transmissão ao vivo foi visto quase 4, 000 vezes - o que não inclui cópias do vídeo enviadas para outros sites e para o Facebook por outros usuários. Não está claro quantas das pessoas que viram eram menores; jovens de apenas 13 anos têm permissão para abrir contas no Facebook e podem ter encontrado imagens não filtradas de ódio assassino. Já passou da hora de a empresa intensificar e cumprir a promessa de seu fundador e CEO, Mark Zuckerberg, feito dois anos atrás, após o assassinato de Godwin:"Continuaremos fazendo todo o possível para evitar que tragédias como essa aconteçam."

Um simples atraso de tempo

Na indústria da televisão, atrasos curtos de alguns segundos são típicos durante as transmissões de eventos ao vivo. Esse tempo permite que um moderador analise o conteúdo e confirme se ele é apropriado para um público amplo.

O Facebook conta com usuários como moderadores, e algumas transmissões ao vivo podem não ter um grande público como a TV, então seu atraso precisaria ser maior, talvez alguns minutos. Só então um número suficiente de usuários adultos o rastrearia e teria a chance de relatar seu conteúdo. Principais usuários, incluindo editoras e corporações, pode ser permitido a transmissão ao vivo diretamente após a conclusão de um curso de treinamento. O Facebook pode até permitir que as pessoas solicitem um moderador da empresa para as próximas transmissões ao vivo.

O Facebook ainda não deu esse passo relativamente simples - e a razão é clara. Os atrasos ocorreram na TV apenas porque os reguladores da transmissão penalizaram as emissoras por veicularem conteúdo impróprio durante os programas ao vivo. Efetivamente, não há regulamentação para empresas de mídia social; eles mudam apenas em busca de lucros ou para minimizar o clamor público.

Se e como regular as mídias sociais é uma questão política, mas muitos políticos americanos desenvolveram laços profundos com plataformas como o Facebook. Alguns contam com a mídia social para coletar doações, direcione os apoiadores com publicidade e ajude-os a serem eleitos. Uma vez no escritório, eles continuam a usar as redes sociais para se comunicar com seus apoiadores na esperança de serem reeleitos.

As agências federais também usam a mídia social para se comunicar com o público e influenciar as opiniões das pessoas - mesmo em violação da lei dos EUA. Na minha opinião, O papel do Facebook como uma ferramenta para ganhar, manter e espalhar o poder político torna os políticos muito menos propensos a controlá-lo.

A regulamentação dos EUA não chegará em breve

O Congresso ainda não tomou nenhuma ação significativa para regulamentar as empresas de mídia social. Apesar das fortes declarações de políticos e até mesmo pedidos de audiências sobre as mídias sociais em resposta ao ataque na Nova Zelândia, Os reguladores dos EUA não devem liderar o caminho.

Funcionários da União Europeia estão lidando com grande parte do trabalho, especialmente em relação à privacidade. O governo da Nova Zelândia intensificou-se, também, proibindo a transmissão ao vivo do vídeo do massacre da mesquita, o que significa que qualquer pessoa que compartilhe pode enfrentar até NZ $ 10, 000 em multas e 14 anos de prisão. Pelo menos duas pessoas já foram presas por compartilhá-lo online.

O Facebook pode - e deve - agir agora

Grande parte da discussão sobre a regulamentação da mídia social tem considerado o uso de leis antitruste e de monopólio para forçar os gigantes da tecnologia, como o Facebook, a se dividir em empresas menores e separadas. Mas se isso acontecer, isso vai ser muito difícil - separar a AT&T durou uma década, do processo de 1974 ao lançamento em 1984 das empresas "Baby Bell".

Nesse ínterim, haverá muitos incidentes mais perigosos e violentos que as pessoas tentarão transmitir ao vivo. O Facebook deve avaliar o potencial de uso indevido de seus produtos e descontinuá-los se os efeitos forem prejudiciais à sociedade.

Nenhuma criança deveria ver o tipo de "conteúdo cru e visceral" que foi produzido no Facebook Live - incluindo assassinato em massa. Não acho que os usuários adultos devam ser expostos a testemunhar tais atos hediondos, como estudos têm mostrado que assistir a violência gráfica tem riscos para a saúde, como estresse pós-traumático.

É por isso que não estou mais recomendando apenas um atraso na transmissão ao vivo para usuários adolescentes - era um apelo para proteger as crianças, quando mais mudanças importantes de plataforma são improváveis. Mas todas as pessoas merecem mídias sociais melhores e seguras. Agora estou pedindo a Mark Zuckerberg que feche o Facebook Live no interesse da saúde e segurança públicas. Na minha opinião, esse recurso deve ser restaurado apenas se a empresa puder provar ao público - e aos reguladores - que seu projeto é mais seguro.

Handling livestreaming safely includes having more than enough professional content moderators to handle the workload. Those workers also must have appropriate access to mental health support and safe working environments, so that even Facebook employees and contractors are not unduly scarred by brutal violence posted online.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.