O número impressionante de mais de três bilhões de contas falsas bloqueadas pelo Facebook em um período de seis meses destaca os desafios enfrentados pelas redes sociais para restringir contas automatizadas, ou bots, e outros esforços nefastos para manipular as plataformas.

Aqui estão quatro perguntas-chave sobre contas falsas:

Como tantas contas falsas surgiram?

O Facebook disse esta semana que "desativou" 1,2 bilhão de contas falsas nos últimos três meses de 2018 e 2,19 bilhões no primeiro trimestre de 2019.

A maioria das contas falsas de mídia social são "bots, "criado por programas automatizados para postar certos tipos de informação - uma violação dos termos de serviço do Facebook e parte de um esforço para manipular conversas sociais. Atores sofisticados podem criar milhões de contas usando o mesmo programa.

O Facebook disse que sua inteligência artificial detecta a maioria desses esforços e desativa as contas antes que possam postar na plataforma. Ainda, reconhece que cerca de 5% das mais de 2 bilhões de contas ativas do Facebook são provavelmente falsas.

Qual é o problema de contas falsas?

Contas falsas podem ser usadas para amplificar a popularidade ou antipatia de uma pessoa ou movimento, assim, distorcendo as visões dos usuários sobre o verdadeiro sentimento público.

Os bots desempenharam um papel desproporcional na divulgação de informações incorretas nas redes sociais antes da eleição de 2016 nos EUA, de acordo com os pesquisadores. Atores maliciosos têm usado esses tipos de relatos falsos para semear desconfiança e divisão social em muitas partes do mundo, em alguns casos, fomentando a violência contra grupos ou indivíduos.

Bots "não apenas manipulam a conversa, eles constroem grupos e grupos de ponte, "disse a cientista da computação da Carnegie Mellon University Kathleen Carley, que pesquisou bots de mídia social.

"Eles podem fazer as pessoas de um grupo acreditarem que pensam a mesma coisa que as pessoas de outro grupo, e ao fazer isso eles constroem câmaras de eco. "

O Facebook diz que suas ferramentas de inteligência artificial podem identificar e bloquear contas falsas à medida que são criadas - e, portanto, antes que possam postar informações incorretas.

"Esses sistemas usam uma combinação de sinais, como padrões de uso de endereços de e-mail suspeitos, ações suspeitas, ou outros sinais previamente associados a outras contas falsas que removemos, ", disse o vice-presidente de análise do Facebook, Alex Schultz, em uma postagem no blog.

O Facebook tem o controle da situação?

Os números do relatório de transparência do Facebook sugerem que o Facebook está agindo agressivamente em contas falsas, disse Onur Varol, um pesquisador de pós-doutorado no Center for Complex Network Research da Northeastern University.

"Três bilhões é um número grande - isso mostra que eles não querem perder nenhuma conta falsa. Mas eles estão dispostos a correr o risco" de desativar algumas contas legítimas, Varol disse.

Usuários legítimos podem ser incomodados, mas geralmente podem ter suas contas restabelecidas, o pesquisador observou.

"Minha sensação é que o Facebook está fazendo grandes esforços" para combater contas falsas, ele adicionou.

Mas novos bots estão se tornando mais sofisticados e difíceis de detectar, porque eles podem usar a linguagem quase tão bem quanto os humanos, de acordo com Carley.

"O Facebook pode ter resolvido a batalha de ontem, mas a natureza dessas coisas está mudando tão rapidamente que podem não estar recebendo as novas, " ela disse.

Varol concordou, observando que "existem bots que entendem a linguagem natural e podem responder às pessoas, e é por isso que é importante manter as pesquisas em andamento. "

Devo me preocupar com bots e contas falsas?

Muitos usuários não sabem a diferença entre uma conta real e uma falsa, pesquisadores dizem. O Facebook e o Twitter têm intensificado os esforços para identificar e eliminar contas falsas, e algumas ferramentas públicas como o Botometer desenvolvido por Varol e outros pesquisadores podem ajudar a determinar a probabilidade de contas e seguidores falsos no Twitter.

"Se você usa o Facebook para se comunicar com a família e amigos, não deve se preocupar muito, "disse Filippo Menczer, um cientista da computação que pesquisa mídia social na Universidade de Indiana.

"Se você usar para acessar notícias e compartilhar com amigos, você deve ter cuidado. "

Menczer disse que muitos usuários do Facebook prestam pouca atenção à fonte do material e podem acabar compartilhando informações falsas ou enganosas.

"Todos pensam que não podem ser manipulados, mas todos nós somos vulneráveis, " ele disse.

Junto com os bots, os humanos representam um elemento-chave na cadeia de desinformação, pesquisadores dizem.

"A maioria das informações falsas não vem de bots, "Carley disse." A maior parte vem de blogs e os bots retransmitem "para amplificar a desinformação.

O chefe do Facebook, Mark Zuckerberg, disse que o Facebook está tentando eliminar os incentivos financeiros de contas falsas.

"Muito do conteúdo prejudicial que vemos, incluindo desinformação, são de fato motivados comercialmente, "Zuckerberg disse a repórteres." Portanto, uma das melhores táticas é remover os incentivos para criar contas falsas no upstream, que limita o conteúdo feito a jusante. "

© 2019 AFP