Uma nova pesquisa encontrou uma maneira de identificar extremistas, como aqueles associados ao grupo terrorista ISIS, monitorando suas contas de mídia social, e pode identificá-los antes mesmo de postar conteúdo ameaçador.

A pesquisa, "Encontrando extremistas nas redes sociais online, "que foi recentemente publicado na revista INFORMS Pesquisa Operacional , foi conduzido por Tauhid Zaman do Instituto de Tecnologia de Massachusetts; Tenente Coronel Christopher E. Marks, Exército americano; e Jytte Klausen da Brandeis University

O número e o tamanho dos grupos extremistas online que usam redes sociais para assediar os usuários, recrutar novos membros, e incitar a violência está aumentando rapidamente. Embora as plataformas de mídia social estejam trabalhando para combater isso (em 2016, O Twitter relatou que desligou o 360, 000 contas ISIS) tradicionalmente dependem fortemente dos relatórios dos usuários para identificar essas contas.

Além disso, assim que uma conta for suspensa, pouco pode ser feito para evitar que um usuário abra uma nova conta, ou várias contas.

"A mídia social se tornou uma plataforma poderosa para grupos extremistas, variando de ISIS a grupos "alt-right" nacionalistas brancos, "disse Zaman." Esses grupos usam as redes sociais para espalhar propaganda odiosa e incitar a violência e ataques terroristas, tornando-os uma ameaça para o público em geral. "

Identificar extremistas antes que eles representem uma ameaça online

Os pesquisadores coletaram dados do Twitter de aproximadamente 5, 000 usuários "seed" que eram membros conhecidos do ISIS ou que estavam conectados a muitos membros conhecidos do ISIS como amigos ou seguidores. Eles obtiveram seus nomes por meio de notícias, blogs, e relatórios divulgados por agências de aplicação da lei e grupos de reflexão.

Além de revisar o conteúdo de 4,8 milhões de tweets das linhas do tempo desses usuários (incluindo texto, links, hash tags, e menções), eles também rastrearam suspensões de contas, bem como quaisquer suspensões das contas de seus amigos e seguidores.

Para o propósito deste estudo, os pesquisadores se concentraram nas redes de contas forjadas por conhecidos simpatizantes do ISIS e da Al Qaeda, combatentes estrangeiros conhecidos e conteúdo que foi sinalizado pelo Twitter como terrorista por natureza.

Usando modelagem estatística de comportamento extremista com políticas de pesquisa otimizadas e dados reais do usuário ISIS, os pesquisadores desenvolveram um método para prever novos usuários extremistas, identificar se mais de uma conta pertence ao mesmo usuário, bem como prever conexões de rede de usuários extremistas suspensos que iniciam uma nova conta.

Além disso, rastreando e comparando dados em nomes de tela, nome do usuário, imagens de perfil e imagens de banner, os pesquisadores também foram capazes de identificar 70 por cento dos perfis adicionais do Twitter mantidos por usuários extremistas, com apenas 2 por cento de incidência de perfis de classificação incorreta.

"Criamos um novo conjunto de recursos operacionais para lidar com a ameaça representada por extremistas online nas redes sociais, "disse Marks." Somos capazes de prever quem é extremista antes de postar qualquer conteúdo, e, então, ser capaz de prever onde eles entrarão novamente na rede após serem suspensos. Resumidamente, podemos descobrir automaticamente quem é extremista e mantê-los fora da rede social. "

Embora o estudo tenha sido conduzido usando dados de contas pertencentes a extremistas do ISIS no Twitter, sua metodologia pode ser aplicada a qualquer grupo extremista e qualquer rede social.

"Os usuários que se envolvem em alguma forma de extremismo ou assédio online terão características comportamentais muito semelhantes nas redes sociais, "disse Klausen." Eles se conectarão a um conjunto específico de usuários que formam seu grupo extremista. Eles criarão novas contas que se parecerão com suas contas antigas após serem suspensas, e quando o retorno à rede social após uma suspensão, há uma grande probabilidade de que eles se reconectem com alguns antigos amigos. "