Em junho de 2017, Google, Facebook, Twitter e Microsoft anunciaram a formação do Global Internet Forum to Counter Terrorism (GIFCT). O objetivo desta iniciativa liderada pela indústria é interromper a exploração terrorista de seus serviços. Recentemente, Os membros do GIFCT elogiaram as realizações de seu primeiro ano de operações. Mas, embora este progresso deva ser reconhecido, desafios significativos permanecem.

A cada minuto, há em média 510, 000 comentários e 136, 000 fotos compartilhadas no Facebook, 350, 000 tweets postados no Twitter e 300 horas de vídeo carregados no YouTube.

Diante disso, as maiores empresas dependem amplamente da inteligência artificial (IA). Os usos de IA do Facebook incluem correspondência de imagens. Isso evita que os usuários enviem uma foto ou vídeo que corresponda a outra foto ou vídeo que tenha sido identificado anteriormente como terrorista. De forma similar, O YouTube relatou que 98% dos vídeos que remove por extremismo violento também são sinalizados por algoritmos de aprendizado de máquina.

Progresso até agora

Uma dificuldade que as empresas de mídia social enfrentam é que, se um grupo terrorista for bloqueado em uma plataforma, ele pode simplesmente mudar para um diferente. Em resposta a isso, Os membros do GIFCT criaram um banco de dados de indústria compartilhado de "hashes". Um hash é uma impressão digital exclusiva que pode ser usada para rastrear a atividade digital. Quando o conteúdo pró-terrorista é removido por um membro do GIFCT, seu hash é compartilhado com as outras empresas participantes para permitir que elas bloqueiem o conteúdo em suas próprias plataformas.

Em sua recente reunião, o GIFCT anunciou que até a data 88, 000 hashes foram adicionados ao banco de dados. Portanto, o consórcio está a caminho de cumprir sua meta de 100, 000 hashes até o final de 2018. Especialmente, agora que outras nove empresas se juntaram ao consórcio, incluindo Instagram, Justpaste.it e LinkedIn.

Esses esforços sem dúvida interromperam o uso de plataformas de mídia social por terroristas. Por exemplo, nos 23 meses desde 1º de agosto, 2015, O Twitter suspendeu quase um milhão de contas por promover o terrorismo. No segundo semestre de 2017, O YouTube removeu 150, 000 vídeos de extremismo violento. Quase metade deles foi removida duas horas após o upload.

Desafios futuros

Ainda há muito trabalho a ser feito. Em resposta à interrupção do uso do Twitter, apoiadores do chamado Estado Islâmico (EI) tentaram contornar a tecnologia de bloqueio de conteúdo pelo que é conhecido como outlinking, usando links para outras plataformas. Interessantemente, os sites que são mais comumente redirecionados para incluir justpaste.it, sendvid.com e archive.org. Esta parece ser uma estratégia deliberada para explorar a falta de recursos e experiência das empresas menores.

Apoiadores do SI também mudaram suas atividades de construção de comunidade para outras plataformas, em particular Telegram. Telegram é um serviço de mensagens instantâneas baseado em nuvem que fornece mensagens criptografadas ponta a ponta opcionais. Essa criptografia impede que as mensagens sejam lidas por terceiros. E tem sido amplamente usado para compartilhar conteúdo produzido por canais oficiais de IS.

Isso faz parte de um movimento mais amplo em direção a métodos mais secretos. Outros serviços de mensagens criptografadas, incluindo WhatsApp, têm sido usados ​​por jihadistas para comunicação e planejamento de ataques. Os sites também foram transferidos para a Darknet. O Darknet é uma parte oculta da Internet que é de natureza anônima e só pode ser acessada por meio de um software de criptografia especializado. Um relatório de 2018 advertiu que as plataformas Darknet têm o potencial de funcionar como um "porto seguro virtual" jihadista.

Além disso, uma pesquisa recente descobriu que os apoiadores de grupos jihadistas diferentes do SI experimentam significativamente menos interrupções no Twitter. Apoiadores desses outros grupos foram capazes de postar seis vezes mais tweets, siga quatro vezes mais contas e ganhe 13 vezes mais seguidores do que contas pró-SI.

Também é importante responder a outras formas de extremismo violento. Grupos de extrema direita também têm uma presença significativa em plataformas como YouTube e Facebook. Embora medidas tenham sido tomadas para interromper sua presença online, como a decisão do Facebook de banir o Britain First de sua plataforma, parece que esses grupos também estão começando a migrar para a Darknet.

Sobrealcance

Assim como há um problema de acesso às redes sociais terroristas, também existem desafios relacionados ao potencial sobrealcance. Não se pode esperar que algoritmos de aprendizado de máquina identifiquem conteúdo terrorista com 100% de precisão. Alguns conteúdos serão identificados erroneamente como terroristas e bloqueados ou removidos. Mas os desafios aqui vão além de apenas aplicar o limite corretamente. Eles também dizem respeito a onde o limite deve ser estabelecido em primeiro lugar.

As dificuldades em definir o terrorismo são bem conhecidas. Resumido pelo slogan "O terrorista de uma pessoa é o lutador pela liberdade de outra", uma das questões de definição mais controversas é a de justa causa. Uma definição de terrorismo deve excluir aqueles como ativistas pró-democracia em um país governado por um regime opressor e tirânico? De acordo com muitos países, incluindo o Reino Unido, a resposta é não. Como disse um juiz do Tribunal de Recurso:"Terrorismo é terrorismo, sejam quais forem os motivos dos perpetradores. "

Se as empresas de mídia social adotarem uma abordagem semelhante, isso pode ter algumas ramificações significativas. De fato, já existem exemplos preocupantes. Em 2017, milhares de vídeos que documentam atrocidades na Síria foram removidos do YouTube por uma nova tecnologia voltada para a propaganda extremista. Esses vídeos forneceram evidências importantes de violações dos direitos humanos. Alguns existiam apenas no YouTube, uma vez que nem todos os ativistas e meios de comunicação sírios podem pagar um arquivo offline. No entanto, a alternativa - procurar distinguir entre causas justas e injustas - está repleta de dificuldades próprias.

Em um momento em que as empresas de mídia social enfrentam uma pressão crescente para fazer mais para combater a exploração terrorista de suas plataformas, o progresso feito durante o primeiro ano do GIFCT é bem-vindo. Mas é apenas o primeiro passo.

Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.