Em 2015, um homem usando uma máscara de caveira postou um vídeo descrevendo seus planos de assassinar Brianna Wu. O vídeo do crânio foi apenas um dos muitos posts perturbadores e bizarros direcionados a Wu e outras mulheres online como parte de uma campanha de assédio chamada GamerGate.
Isso foi nos primeiros dias da moderação de conteúdo em um ecossistema de mídia social com muito menos regras, mas ainda assim, o Twitter agiu rapidamente para remover o vídeo, impedindo que ele se tornasse viral, disse Wu. Embora o GamerGate tenha ilustrado o quão ineptas as plataformas de mídia social são para proteger seus usuários, a ação imediata do Twitter serviu como um exemplo inicial da relativa disposição da empresa de responder às críticas e trabalhar para conter o abuso, disse Wu.

Embora as plataformas de mídia social tenham lutado para responder à desinformação, discurso de ódio, interferência eleitoral e incitação à violência, o Twitter ao longo dos anos adotou uma abordagem mais sutil e completa, desenvolvendo, revisando e expandindo uma ampla estrutura política.

O Twitter, por exemplo, liderou os esforços para criar políticas de segurança e impor violações de alto perfil de suas regras. Ele suspendeu permanentemente o provocador de direita Milo Yiannopoulos em julho de 2016 e o ​​teórico da conspiração Alex Jones em setembro de 2018. O Facebook não proibiu Yiannopoulos e Jones até maio de 2019.

No verão de 2020, o Twitter colocou um rótulo de aviso sobre o tweet do então presidente Trump ameaçando uma dura repressão aos protestos em Minneapolis por violar suas regras sobre “glorificar a violência” e logo depois sinalizou mais dois tweets relacionados às eleições para verificação de fatos. A medida distinguiu o Twitter do Facebook, cujo presidente-executivo, Mark Zuckerberg, indicou que não estava inclinado a tomar medidas semelhantes e abriu caminho para uma série de empresas de mídia social que mais tarde suspenderam Trump de suas plataformas dias antes do final de seu mandato.

Este ano, o Facebook anunciou uma suspensão de 24 horas da conta da Rep. Marjorie Taylor Greene, R-Ga., um dia depois que o Twitter baniu permanentemente Greene por espalhar repetidamente desinformação sobre o COVID-19.

Mas a tentativa bem-sucedida de Elon Musk de comprar o Twitter pode mudar a trajetória da empresa. Musk, que disse adotar uma filosofia de absolutismo da liberdade de expressão, deixou claro que quer uma plataforma com menos fiscalização, escrevendo em uma série de tuítes na terça-feira que ele favorece a moderação apenas quando exigido por lei.

"Sou contra a censura que vai muito além da lei. Se as pessoas querem menos liberdade de expressão, vão pedir ao governo que aprove leis nesse sentido. Portanto, ir além da lei é contrário à vontade do povo", disse Musk no Twitter. .

“O Twitter tem servido historicamente como uma das plataformas de mídia social mais inovadoras que sempre testou novas ideias e conceitos”, disse Jennifer Edwards, diretora executiva do Texas Social Media Research Institute da Tarleton State University.

A compra da empresa por Musk e o pivô em direção ao ethos de moderação laissez faire que ele defende podem levar outras plataformas de mídia social a retroceder também e relaxar seus padrões de moderação, disse ela.

A dinâmica do Twitter liderando o grupo também pode fluir na direção oposta sob Musk, com o novo proprietário do Twitter seguindo dicas de seu colega mais veterano no Facebook. Por exemplo, Musk já disse que quer começar a "autenticar todos os seres humanos" no Twitter - um movimento que, embora vago, poderia alinhar sua plataforma mais com a de Zuckerberg, onde os usuários devem postar com qualquer nome "que usem na vida cotidiana". .

As insinuações de Musk de que ele pode seguir o exemplo já provocaram críticas.

“Qualquer defensor da liberdade de expressão (como Musk parece se ver) disposto a exigir que os usuários enviem identidade para acessar uma plataforma provavelmente desconhece a importância crucial do pseudônimo e do anonimato”, escreveram vários líderes da organização sem fins lucrativos de direitos digitais Electronic Frontier Foundation em resposta. à notícia da compra de Musk. Políticas que exigem nomes reais no Facebook têm sido usadas para expulsar comunidades precárias, como transgêneros, drag queens e profissionais do sexo, disse o comunicado.

Muitos usuários, compreensivelmente, desconfiam das mídias sociais, não querem fornecer identificação e desistem, disse Sophie Zhang, ex-cientista de dados do Facebook. Na Coreia do Sul, bancos de dados de autenticação de nome real foram repetidamente hackeados, pois formavam um tesouro de informações pessoais, disse ela.

“O absolutismo da liberdade de expressão é uma boa ideia”, mas a grande maioria da moderação de conteúdo não é uma discussão política controversa que Musk postula, e, portanto, esses valores não funcionam necessariamente na prática, disse Zhang.

Zhang disse que é muito cedo para saber como a influência de Musk afetará a moderação de conteúdo na plataforma. Os desafios da plataforma podem forçar ele e outros defensores do absolutismo da liberdade de expressão a enfrentar a questão de por que ele é incapaz de deixar o discurso fluir sem violação e, simultaneamente, impedir que a plataforma se torne um pântano de spam criptográfico, pornografia e anúncios falsos.

"A verdadeira questão para mim é como Elon toma essas decisões quando ele está realmente na posição de responsabilidade", disse ela.

Christopher Bail, professor da Duke University e diretor do Polarization Lab do campus, disse que as premissas de algumas das propostas de Musk são falhas. Musk está convencido de que as vozes conservadoras estão sendo minimizadas e, embora seja possível apontar casos de alto perfil, como a suspensão da conta de Trump, como exemplos de preconceito contra conservadores, estudos mostram que a plataforma realmente tende a promover perspectivas conservadoras, disse Bail.

Musk disse que as contas quase nunca deveriam ser banidas, mas também prometeu reprimir os spammers – presumivelmente identificando-os pelo conteúdo de seu discurso e tomando medidas para banir as contas.

"Acho que onde a borracha cair na estrada, será mais difícil do que ele imagina fazer o que quer", disse Bail.

Pesquisadores e ativistas temem que o foco de Musk no discurso irrestrito corroa as ferramentas que a equipe de confiança e segurança do Twitter construiu ao longo dos anos. Ao dar a si mesmo abordagens além da desativação da conta e remoção de postagens, o Twitter tornou suas regras substancialmente mais aplicáveis, disseram especialistas. A empresa exerceu maior transparência do que seus pares, mantendo linhas abertas de comunicação com pesquisadores e tornou públicos e disponíveis para análise por acadêmicos e outros grupos de dados sobre spam e desinformação na plataforma.

O Twitter mantém um arquivo de postagens que removeu da plataforma, permitindo que os pesquisadores examinem o alcance e a influência da desinformação viral. A iniciativa Birdwatch do Twitter visa criar uma abordagem de crowdsourcing para sinalizar desinformação.

Wu disse que durante o pico de assédio que ela enfrentou durante o GamerGate, o então vice-presidente de confiança e segurança do Twitter entrou em contato para ouvir as preocupações e oferecer apoio. Nos anos seguintes, o Twitter se separou do bando fazendo esforços reais para se envolver com críticos como ela.

"Eles fizeram mais do que o Facebook, mais do que o Reddit, mais do que o Google", disse Wu, que diz ter assessorado informalmente a equipe de confiança e segurança da empresa por cerca de cinco anos. "O Twitter nunca recebeu o crédito que merece por abordar o assédio de forma agressiva."