Pesquisadores da Universidade do Colorado em Boulder desenvolveram uma nova técnica para detectar ataques pessoais desagradáveis ​​em redes sociais como o Instagram.

A nova abordagem, desenvolvido por CU Boulder'sCyberSafety Research Center, combina várias ferramentas de computação diferentes para digitalizar grandes quantidades de dados de mídia social, enviar alertas para pais ou administradores de rede sobre a ocorrência de abuso.

É rápido como um foguete, também:em pesquisas publicadas recentemente, o grupo relatou que sua abordagem usa cinco vezes menos recursos de computação do que as ferramentas existentes. Isso é eficiente o suficiente para monitorar uma rede do tamanho do Instagram com um investimento modesto em energia do servidor, disse o co-autor do estudo, Richard Han.

"A resposta das redes sociais às notícias falsas começou recentemente a aumentar, embora tenha levado graves consequências para chegar a esse ponto, "disse Han, professor associado do Departamento de Ciência da Computação. "A resposta deve ser igualmente forte para o cyberbullying."

O grupo também lançou um aplicativo gratuito para celulares Android que permite aos pais receberem alertas quando seus filhos forem alvo de bullying no Instagram. O coautor do estudo, Shivakant Mishra, explicou que o aplicativo, chamado BullyAlert, pode aprender e se adaptar ao que os pais consideram bullying.

"Como pai, Sei que muitas vezes não temos pleno conhecimento do que nossos filhos estão fazendo em suas redes sociais, "disse Mishra, professor de ciência da computação. "Um aplicativo como este que nos informa quando algo problemático está acontecendo é inestimável."

Para construir sua caixa de ferramentas, os pesquisadores da CyberSafety primeiro empregaram humanos reais para ensinar a um programa de computador como separar comentários on-line benignos de abusos.

Próximo, os pesquisadores desenvolveram um sistema que funciona um pouco como triagem hospitalar. Quando um usuário carrega uma nova postagem, as ferramentas do grupo fazem uma varredura rápida dos comentários. Se esses comentários parecerem questionáveis, então, essa postagem terá alta prioridade para receber verificações adicionais. Mas se todos os comentários parecem caridosos, então, o sistema empurra a postagem para o fim da fila.

"Nosso objetivo é focar nas sessões mais vulneráveis, "Han disse." Ainda continuamos a monitorar todas as sessões, mas monitoramos com mais frequência as sessões que consideramos mais problemáticas. "

E funciona:os pesquisadores testaram sua abordagem em dados do mundo real do Vine, uma plataforma de compartilhamento de vídeo extinta, e Instagram. Han explicou que a equipe escolheu essas redes porque elas disponibilizam seus dados publicamente.

Em pesquisa apresentada em uma conferência em abril, o grupo calculou que seu conjunto de ferramentas poderia monitorar o tráfego no Vine e no Instagram em tempo real, detectar comportamento de cyberbullying com 70 por cento de precisão. O que mais, a abordagem também pode enviar sinalizadores de aviso dentro de duas horas após o início do abuso - um desempenho incomparável pelo software disponível atualmente.

Rahat Ibn Rafiq, um estudante de graduação da CU Boulder em ciência da computação, é o autor principal do novo estudo. Outros co-autores incluem CU Boulder Professor Associado Qin (Christine) Lv e Homa Hosseinmardi da University of Southern California.