As empresas de mídia social se saíram bem nas audiências no Congresso dos Estados Unidos sobre a insurreição de 6 de janeiro. Eles lucraram com o vídeo transmitido ao vivo enquanto os manifestantes invadiram o Capitólio. Eles lucraram com a incendiária mistura de desinformação que incitou milhares a viajar para Washington D.C. para o comício "Save America". Eles continuam a lucrar com suas consequências. O extremismo do Clickbait tem sido bom para os negócios.
Imagens de vídeo feitas pelos próprios manifestantes também têm sido uma importante fonte de evidências para a polícia e os promotores. No dia do ataque ao Capitólio, os moderadores de conteúdo nas principais plataformas de mídia social ficaram sobrecarregados com postagens que violavam suas políticas contra incitação ou glorificação da violência. Sites mais simpáticos à extrema direita, como Parler, estavam inundados com esse conteúdo.

Ao testemunhar nas audiências no Congresso, um ex-funcionário do Twitter falou em implorar à empresa que tome medidas mais fortes. Em desespero, na noite anterior ao ataque, ela enviou uma mensagem aos colegas de trabalho:"Quando as pessoas estiverem atirando umas nas outras amanhã, tentarei descansar sabendo que tentamos".

Aludindo a tweets do ex-presidente Trump, dos Proud Boys e de outros grupos extremistas, ela falou sobre perceber que "estávamos no capricho de uma multidão violenta que estava trancada e carregada".

A necessidade de mudança

Nas semanas após o massacre de Christchurch em 2019, havia sinais esperançosos de que as nações – individual e coletivamente – estavam preparadas para regular melhor a internet.

As empresas de mídia social lutaram arduamente contra a aceitação da responsabilidade por seu conteúdo, citando argumentos que refletiam as filosofias libertárias dos pioneiros da internet. Em nome da liberdade, eles argumentaram, regras estabelecidas há muito tempo e normas comportamentais deveriam ser deixadas de lado. Seu sucesso em influenciar os legisladores permitiu que as empresas evitassem penalidades legais, mesmo quando suas plataformas são usadas para motivar, planejar, executar e transmitir ataques violentos ao vivo.

Depois de Christchurch, a crescente indignação pública forçou as principais empresas a entrar em ação. Eles reconheceram que suas plataformas desempenharam um papel em ataques violentos, adotaram políticas mais rigorosas em relação a conteúdo aceitável, contrataram mais moderadores de conteúdo e expandiram sua capacidade de interceptar conteúdo extremo antes de ser publicado.

Parecia impensável em 2019 que ações reais não fossem tomadas para regular e moderar as plataformas de mídia social para impedir a propagação do extremismo violento online em todas as suas formas. A transmissão ao vivo foi um elemento central do ataque de Christchurch, cuidadosamente emoldurada para se assemelhar a um videogame e destinada a inspirar ataques futuros.

Quase dois anos depois, várias plataformas de mídia social foram fundamentais para incitar e organizar o ataque violento ao Capitólio dos EUA, que causou várias mortes e ferimentos e levou muitos a temer que uma guerra civil estivesse prestes a eclodir.

De fato, a mídia social estava implicada em todos os aspectos do ataque ao Capitólio, assim como no massacre de Christchurch. Ambos foram fermentados por teorias da conspiração selvagens e infundadas que circularam livremente nas plataformas de mídia social. Ambos foram realizados por pessoas que se sentiam fortemente conectadas a uma comunidade online de verdadeiros crentes.

O processo de radicalização

O testemunho de Stephen Ayres nas audiências do Congresso de 6 de janeiro fornece uma janela para o processo de radicalização.

Descrevendo-se como um "homem de família comum" que era "núcleo duro nas mídias sociais", Ayres se declarou culpado de uma acusação de conduta desordeira por seu papel na invasão do Capitólio. Ele mencionou suas contas no Twitter, Facebook e Instagram como a fonte de sua crença de que a eleição presidencial dos EUA de 2020 havia sido roubada. Suas fontes primárias foram postagens feitas pelo próprio ex-presidente.

Ayres testemunhou que um tweet do presidente Trump o levou a participar do comício "Save America". Ele exemplificou os milhares de americanos que não eram membros de nenhum grupo extremista, mas foram motivados pelas principais mídias sociais a viajar para Washington D.C.

O papel do ex-presidente dos EUA Trump na ascensão do extremismo de direita, nos EUA e além, é um tema recorrente em Rethinking Social Media and Extremism, que coeditei com Paul Pickering. Na época do massacre de Christchurch, havia ampla evidência de que empresas de internet sediadas nos EUA estavam fornecendo plataformas globais para causas extremistas.

No entanto, sempre que sua moderação de conteúdo se estendeu às vozes da extrema direita, essas empresas enfrentaram a censura dos conservadores, inclusive da Casa Branca de Trump. A mensagem era clara:permitir liberdade de expressão irrestrita para a chamada "direita alternativa" era o preço que as empresas de mídia social teriam que pagar por seu oligopólio. Embora o perigo crescente do terrorismo doméstico fosse aparente, a ameaça de processos antitruste era um poderoso desincentivo para ações corporativas contra extremistas de direita.

As empresas de mídia social enfrentaram uma pressão significativa de nações fora dos EUA. Por exemplo, poucos meses após o ataque de Christchurch, líderes mundiais se reuniram em Paris para assinar o Christchurch Call para combater o extremismo violento online. O documento tinha um tom moderado, mas os EUA se recusaram a assinar. Em vez disso, a Casa Branca se dobrou ao alegar que a maior ameaça estava na supressão de vozes conservadoras.

Em 2021, o governo Biden se inscreveu tardiamente no Christchurch Call, mas não conseguiu avançar nenhuma medida internamente. Apesar de algumas conversas duras durante a campanha eleitoral, o presidente Biden não conseguiu aprovar uma legislação que regule melhor as empresas de tecnologia.

Com as eleições de meio de mandato se aproximando – eleições que muitas vezes vão contra o partido do presidente – há poucas razões para otimismo. As decisões dos legisladores dos EUA continuarão a reverberar globalmente, enquanto a propriedade das mídias sociais ocidentais permanecer firmemente centrada nos EUA.

O fracasso da autorregulação

O espírito do libertarianismo vive dentro de empresas que explodiram de start-ups locais para corporações de trilhões de dólares em uma década. Seu compromisso com a autorregulação agradou aos legisladores, que lutavam para entender essa tecnologia nova e em constante mudança de forma. O fracasso demonstrável da auto-regulação provou ser letal para os alvos do terrorismo e agora representa um perigo para a própria democracia.

Em seu capítulo em Rethinking Social Media and Extremism, Sally Wheeler nos pede para reconsiderar a base da licença social que as empresas de mídia social têm para operar dentro das democracias. Ela argumenta que, em vez de perguntar se suas atividades são legais, podemos perguntar quais reformas são necessárias para garantir que as mídias sociais não causem sérios danos às pessoas ou sociedades.

Agora central para a prestação de muitos serviços públicos, as plataformas de mídia social podem ser consideradas utilidades públicas e, apenas por esse motivo, estar sujeitas a regras e expectativas diferentes e mais altas. Esse ponto foi amplamente demonstrado, ainda que involuntariamente, pelo próprio Facebook quando bloqueou muitos sites - incluindo serviços de emergência - durante um desentendimento com o governo australiano em 2021. plataforma.

Em meio ao clamor nacional após o massacre de Christchurch, o governo australiano introduziu apressadamente uma legislação destinada a aumentar as responsabilidades das empresas de internet. Alegadamente elaborado em apenas 48 horas antes de ser apressado pelas duas casas do parlamento, o projeto sempre seria falho.

Uma reforma efetiva exige que primeiro reconheçamos a internet como um espaço no qual as ações trazem consequências no mundo real. As vítimas mais visíveis são aquelas diretamente visadas por ameaças de violência extrema – principalmente mulheres, imigrantes e minorias. Mesmo quando as ameaças não são decretadas, as pessoas são intimidadas ao silêncio, até se automutilam.

Mais insidioso, mas talvez tão prejudicial a longo prazo, é o declínio geral da civilidade que leva o discurso público a posições extremas. Nas mídias sociais, o que é conhecido como a Janela de Overton do debate político dominante não foi tanto empurrado quanto chutado.

Existe um amplo consenso de que as estruturas legais e regulatórias existentes são simplesmente inadequadas para a era digital. No entanto, mesmo que a pandemia global tenha acelerado nossa dependência de todas as coisas digitais, há menos consenso sobre a natureza do problema, muito menos sobre os remédios necessários. Embora a ação seja claramente necessária, há sempre o perigo de exagero.

O funcionamento de uma sociedade democrática depende tanto de nossa capacidade de debater ideias e expressar divergências quanto da prevenção do extremismo violento. Nosso desafio é equilibrar a liberdade de expressão contra outros direitos concorrentes na internet, assim como fazemos em outros lugares. A abordagem atual de simplesmente aumentar as penalidades enfrentadas pelas empresas de mídia social tem mais probabilidade de pender a balança contra a liberdade de expressão. Em um cenário de comunicação cada vez mais concentrado nas mãos de apenas algumas grandes corporações, precisamos de mais vozes e mais diversidade, não menos. + Explorar mais

Donald Trump está voltando ao Facebook? Facebook pode suspender proibição em janeiro, diz executivo

Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.