A moderação de conteúdo é um ato de equilíbrio delicado para plataformas de mídia social que tentam aumentar sua base de usuários. Plataformas maiores, como Facebook e Twitter, que obtêm a maior parte de seus lucros com publicidade, não podem se dar ao luxo de perder os olhos ou o engajamento em seus sites. No entanto, eles estão sob enorme pressão pública e política para acabar com a desinformação e remover conteúdo nocivo. Enquanto isso, plataformas menores que atendem a ideologias específicas preferem deixar a liberdade de expressão reinar.
Em seu próximo artigo, intitulado "Implicações de modelos de receita e tecnologia para estratégias de moderação de conteúdo", os professores de marketing da Wharton Pinar Yildirim e Z. John Zhang, e o doutorando da Wharton Yi Liu mostram como a estratégia de moderação de conteúdo de uma empresa de mídia social é influenciada principalmente por sua modelo de receita. Uma plataforma sob publicidade é mais propensa a moderar seu conteúdo do que uma sob assinatura, mas modera de forma menos agressiva do que a última quando o faz. No ensaio a seguir, os autores discutem suas pesquisas e suas implicações para os formuladores de políticas que desejam regular as plataformas de mídia social.

Todos os dias, milhões de usuários em todo o mundo compartilham suas diversas visões nas plataformas de mídia social. Nem todas essas visões estão em harmonia. Alguns são considerados ofensivos, prejudiciais, até mesmo extremos. Com opiniões diversas, os consumidores estão em conflito:por um lado, eles querem expressar livremente seus pontos de vista sobre questões políticas, sociais e econômicas em andamento nas plataformas de mídia social sem intervenção e sem serem informados de que seus pontos de vista são inadequados. Por outro lado, quando outros expressam suas opiniões livremente, eles podem considerar parte desse conteúdo inapropriado, insensível, prejudicial ou extremo e querer que ele seja removido. Além disso, os consumidores nem sempre concordam sobre quais postagens são censuráveis ​​ou quais ações as plataformas de mídia social devem realizar. De acordo com uma pesquisa da Morningconsult, por exemplo, 80% dos entrevistados querem ver o discurso de ódio – como postagens usando insultos contra um grupo racial, religioso ou de gênero – removido, 73% desejam ver vídeos que retratam crimes violentos removidos e 66% desejam ver as representações de atos sexuais removidas.

As plataformas de mídia social enfrentam o desafio de atuar como guardiãs da internet, ao mesmo tempo em que são o centro da autoexpressão e do conteúdo gerado pelo usuário. De fato, os esforços de moderação de conteúdo consomem recursos significativos das empresas. O Facebook sozinho se comprometeu a alocar 5% da receita da empresa, US$ 3,7 bilhões, em moderação de conteúdo, um valor maior que toda a receita anual do Twitter. No entanto, nem os consumidores nem os reguladores parecem estar satisfeitos com seus esforços. De uma forma ou de outra, as empresas precisam decidir como moderar o conteúdo para proteger usuários individuais e seus interesses. O conteúdo sensível deve ser retirado da internet? Ou a liberdade de expressão deve prevalecer livremente, indicando que todos são livres para postar o que quiserem, e é decisão do consumidor optar por entrar ou sair desse mundo de liberdade de expressão? Derrubar o conteúdo de alguém reduz o prazer desse usuário (e de alguns outros usuários) do site, enquanto não derrubá-lo também pode ofender outras pessoas. Portanto, em termos de incentivos econômicos de uma plataforma de mídia social, a moderação de conteúdo pode afetar o engajamento do usuário, o que, em última análise, pode afetar a lucratividade da plataforma.

Moderando conteúdo, maximizando lucros

Em nosso próximo artigo, "Implications of Revenue Models and Technology for Content Moderation Strategies", estudamos como as plataformas de mídia social impulsionadas por lucros podem ou não moderar o conteúdo online. Levamos em consideração a considerável heterogeneidade de usuários e diferentes modelos de receita que as plataformas podem ter, e derivamos a estratégia ideal de moderação de conteúdo da plataforma que maximiza a receita.

Quando diferentes plataformas de mídia social moderam o conteúdo, o determinante mais significativo é o resultado final. Esse resultado final pode depender muito da publicidade, ou da entrega de olhos aos anunciantes, ou das taxas de assinatura que os consumidores individuais estão pagando. Mas há um forte contraste entre os dois modelos de receita. Embora a publicidade dependa de muitos, muitos olhos para os anunciantes, as receitas de assinatura dependem da capacidade de atrair clientes pagantes. Como resultado do contraste, a política de moderação de conteúdo em um esforço para reter os consumidores também parece diferente em publicidade versus assinatura. As plataformas de mídia social que funcionam com receita de publicidade são mais propensas a realizar moderação de conteúdo, mas com padrões frouxos da comunidade, a fim de reter um grupo maior de consumidores, em comparação com plataformas com receita de assinatura. De fato, plataformas baseadas em assinatura como Gab e MeWe são menos propensas a fazer moderação de conteúdo, reivindicando liberdade de expressão para seus usuários.

Um segundo fator importante na moderação de conteúdo é a qualidade da tecnologia de moderação de conteúdo. Um volume significativo de moderação de conteúdo é realizado com a ajuda de computadores e inteligência artificial. Por que, então, os executivos de mídia social afirmam que a tecnologia não é suficiente? Quando perguntados sobre moderação de conteúdo, a maioria dos executivos do Facebook enfatiza que eles se preocupam muito com a moderação de conteúdo e alocam grandes quantidades de receita da empresa para a tarefa.

Descobrimos que uma plataforma de mídia social auto-interessada nem sempre se beneficia da melhoria tecnológica. Em particular, uma plataforma cuja principal fonte de receita é a publicidade pode não se beneficiar de uma tecnologia melhor, porque uma tecnologia menos precisa cria uma comunidade porosa com mais olhos. Essa descoberta sugere que a moderação de conteúdo em plataformas online não é meramente um resultado de suas capacidades tecnológicas, mas de seus incentivos econômicos.

As descobertas do artigo em geral lançam dúvidas sobre se as plataformas de mídia social sempre remediarão as deficiências tecnológicas por conta própria. Levamos nossa análise um passo adiante e comparamos a estratégia de moderação de conteúdo para uma plataforma de interesse próprio com a de um planejador social, que é uma instituição governamental ou órgão de atuação similar que estabelece regras para a melhoria do bem-estar social. Um planejador social usará a moderação de conteúdo para podar qualquer usuário que contribua negativamente para a utilidade total da sociedade, enquanto uma plataforma auto-interessada pode manter alguns desses usuários, se servir aos seus interesses. Talvez contrariando as crenças leigas, descobrimos que uma plataforma de interesse próprio é mais propensa a conduzir a moderação de conteúdo do que um planejador social, o que indica que as plataformas individuais têm mais incentivos para moderar seu conteúdo em comparação com o governo.

No entanto, mais incentivos não significam incentivos certos. Ao realizar a moderação de conteúdo, uma plataforma sob publicidade será menos rigorosa que um planejador social, enquanto uma plataforma sob assinatura será mais rigorosa que um planejador social. Além disso, um planejador social sempre pressionará pela tecnologia perfeita quando o custo do desenvolvimento da tecnologia não for um problema. Apenas uma plataforma sob assinatura terá seu interesse alinhado com um planejador social em aperfeiçoar a tecnologia para moderação de conteúdo. Essas conclusões em geral demonstram que há espaço para regulamentações governamentais e, quando justificadas, elas precisam ser diferenciadas em relação ao modelo de receita que uma plataforma adota.