À medida que grupos extremistas e movimentos marginais como QAnon ganharam a consciência popular, sua capacidade de proliferar rapidamente desinformação e conspirações colocou as plataformas de mídia social sob maior escrutínio público. Facebook, Twitter e outras empresas de tecnologia foram repreendidas pelo Congresso e pela mídia por não abordar seriamente a radicalização online entre seus usuários. À medida que os Estados Unidos se tornaram cada vez mais politicamente polarizados, a questão de saber se os algoritmos dessas plataformas – não intencionalmente ou por design – ajudam os usuários a descobrir conteúdo extremo e enganoso se tornou mais urgente.
Mas, como aponta Homa Hosseinmardi, Ph.D., uma grande plataforma surpreendentemente recebeu menos atenção:o YouTube. Hosseinmardi, pesquisador sênior e pesquisador principal do projeto PennMap do Laboratório de Ciências Sociais Computacionais (CSS) da Universidade da Pensilvânia - parte da Escola de Engenharia e Ciências Aplicadas, da Escola Annenberg de Comunicação e da Escola Wharton - observa que, embora seja muitas vezes percebido como um canal de entretenimento em vez de uma fonte de notícias, o YouTube é talvez a maior plataforma de consumo de mídia do mundo.

"O YouTube foi esquecido pelos pesquisadores, porque não acreditávamos que era um lugar para notícias", disse ela. "Mas se você olhar para a escala, ela tem mais de dois bilhões de usuários. Se você pegar essa população e multiplicá-la pela fração de conteúdo de notícias assistido no YouTube, você percebe que a quantidade de consumo de informações no YouTube é muito maior do que no YouTube. Twitter."

A pesquisa de Hosseinmardi é impulsionada por questões sobre o comportamento humano, especialmente em espaços online. Seu Ph.D. A pesquisa abordou o assédio e o bullying online, principalmente no Instagram e no Askfm, uma rede social semianônima. Antes de vir para a Penn, ela foi assistente de pesquisa de pós-doutorado no Instituto de Ciências da Informação da Universidade do Sul da Califórnia, onde estudou personalidade, desempenho no trabalho e saúde mental em ambientes de trabalho usando sinais fisiológicos dos funcionários, como batimentos cardíacos e respiração.

Em 2019, ingressou no CSSLab, dirigido pelo professor da Stevens University, Duncan Watts. Em seu trabalho com o Lab, Hosseinmardi usa dados em larga escala e métodos computacionais para obter insights sobre questões como polarização da mídia, viés algorítmico e como as redes sociais afetam nossas vidas.

Vários anos atrás, uma equipe de pesquisadores, incluindo Hosseinmardi e Watts, se interessou pela relação entre radicalização online e consumo de notícias no YouTube. Até que ponto os algoritmos do YouTube promovem o envolvimento com conteúdo fortemente tendencioso ou radical e até que ponto isso é influenciado pelo comportamento online de um indivíduo?

"Todos nós já ouvimos histórias sobre a radicalização do YouTube - uma pessoa assistiu a um vídeo e acabou em uma teoria da conspiração", diz Hosseinmardi. "Percebemos que o público em geral percebe isso como prova de um problema sistemático com o algoritmo."

Ela pretende responder a esta pergunta:Se as pessoas começarem de algum lugar no YouTube, depois de assistirem alguns vídeos consecutivamente, elas terminarão no mesmo destino?

A equipe testou essa pesquisa estudando comportamentos de navegação individual, no YouTube e na web, de mais de 300.000 americanos de janeiro de 2016 a dezembro de 2019. Eles também obtiveram dados demográficos dos usuários, incluindo idade, sexo, raça, educação, ocupação, renda, e inclinação política, garantindo uma amostra representativa da população dos EUA.

Em agosto, eles publicaram seus resultados em Proceedings of the National Academy of Sciences , descobrindo que a sabedoria convencional nem sempre está certa.

Os pesquisadores não observaram evidências de que o envolvimento de conteúdo de extrema-direita e "anti-acordado" seja sistematicamente causado por recomendações do YouTube. Em vez disso, reflete amplamente as preferências do usuário e o ecossistema de conteúdo online mais amplo. Os consumidores de conteúdo de extrema direita chegam por vários caminhos, como mecanismos de pesquisa, outros sites e vídeos assistidos anteriormente.

No entanto, permanece o fato de que os indivíduos continuam a ser radicalizados online. Na visão de Hosseinmardi e outros especialistas, a pesquisa contínua e orientada para a solução é fundamental para abordar esse problema. No início de novembro, o estudo de 2020 da equipe, "Avaliando a escala, o crescimento e as origens das câmaras de eco de direita no YouTube", foi citado em uma audiência do Comitê de Segurança Interna e Assuntos Governamentais do Senado dos EUA que examinou o papel das plataformas de mídia social na ascensão do extremismo doméstico.

Hosseinmardi e seus colegas consideram seu trabalho nesta área como continuamente em andamento. O PennMAP, um projeto de pesquisa interdisciplinar e apartidário administrado pelo CSSLab, está desenvolvendo tecnologia para avaliar o viés da mídia e os padrões de desinformação em todo o espectro político e acompanhar como o consumo de informações afeta as crenças individuais e coletivas. A equipe está criando uma infraestrutura de dados escalável para analisar dezenas de terabytes de conteúdo de televisão, rádio e web, além de estudar painéis representativos de cerca de 500.000 consumidores de mídia ao longo de vários anos. Eles também estão trabalhando com pesquisadores do Instituto Federal Suíço de Tecnologia para monitorar os efeitos das mudanças nas políticas do YouTube e desplataformações em seus usuários na web e descobrir se o consumo extremo de conteúdo é reduzido consequentemente, ou se os usuários simplesmente substituem o YouTube por outra plataforma que hospeda conteúdo semelhante.

No entanto, adverte Hosseinmardi, as questões sociais não podem ser resolvidas apenas por meio de reformas políticas. Em grande medida, plataformas como o YouTube refletem o mundo offline. A desinformação faz parte de um ciclo maior, em que conteúdo tendencioso ou enganoso pode desumanizar grupos marginalizados e minoritários, afetando os níveis de empatia dos outros em relação a eles na vida 'real'. À medida que a desinformação continua a fluir, o ódio e o assédio continuam se espalhando, e os grupos afetados ficam cada vez mais silenciosos.

Em última análise, enfatiza Hosseinmardi, é nossa responsabilidade pensar criticamente sobre as informações que consumimos e aceitamos como verdade.

“Não posso afirmar que não há culpa para nenhuma plataforma, mas não devemos esquecer nosso papel como sociedade, e que pessoas com uma certa aparência, ou pessoas de uma determinada raça ou religião estão sendo vitimizadas”, diz ela. "As plataformas são reflexos de grandes problemas da sociedade com os quais precisamos nos preocupar mais, em vez de apenas apontar o dedo para as plataformas. Eles devem fazer sua parte, mas nós também devemos fazer a nossa parte."