Desinformação eleitoral:como funcionam os bots alimentados por IA e como você pode se proteger de sua influência

Crédito:Pixabay/CC0 Domínio Público

As plataformas de mídia social tornaram-se mais do que meras ferramentas de comunicação. Eles evoluíram para arenas movimentadas onde a verdade e a falsidade colidem. Entre essas plataformas, X se destaca como um campo de batalha de destaque. É um lugar onde as campanhas de desinformação prosperam, perpetuadas por exércitos de bots alimentados por IA, programados para influenciar a opinião pública e manipular narrativas.

Os bots com tecnologia de IA são contas automatizadas projetadas para imitar o comportamento humano. Os bots nas redes sociais, plataformas de chat e IA conversacional são essenciais para a vida moderna. Eles são necessários para que os aplicativos de IA funcionem de maneira eficaz, por exemplo.

Mas alguns bots são criados com intenções maliciosas. Surpreendentemente, os bots constituem uma parcela significativa da base de usuários do X. Em 2017, estimou-se que existiam aproximadamente 23 milhões de bots sociais, representando 8,5% do total de utilizadores. Mais de dois terços dos tweets tiveram origem nestas contas automatizadas, amplificando o alcance da desinformação e turvando as águas do discurso público.

Como funcionam os bots

A influência social é agora uma mercadoria que pode ser adquirida através da compra de bots. As empresas vendem seguidores falsos para aumentar artificialmente a popularidade das contas. Esses seguidores estão disponíveis a preços extremamente baixos, com muitas celebridades entre os compradores.

No decorrer da nossa pesquisa, por exemplo, colegas e eu detectamos um bot que postou 100 tweets oferecendo seguidores para venda.

Utilizando metodologias de IA e uma abordagem teórica chamada teoria ator-rede, os meus colegas e eu dissecamos como os bots sociais maliciosos manipulam as redes sociais, influenciando o que as pessoas pensam e como agem com uma eficácia alarmante. Podemos dizer se as notícias falsas foram geradas por um humano ou por um bot com uma taxa de precisão de 79,7%. É crucial compreender como tanto os humanos como a IA disseminam a desinformação, a fim de compreender as formas como os humanos aproveitam a IA para espalhar a desinformação.

Para dar um exemplo, examinamos a atividade de uma conta chamada “True Trumpers” no Twitter.

A conta foi criada em agosto de 2017, não tem seguidores e nem foto de perfil, mas tinha, no momento da pesquisa, postado 4.423 tuítes. Isso incluiu uma série de histórias totalmente inventadas. É importante notar que este bot é originário de um país do Leste Europeu.

Pesquisas como essa influenciaram X a restringir as atividades de bots sociais. Em resposta à ameaça de manipulação das redes sociais, X implementou limites de leitura temporários para conter a extração e manipulação de dados. As contas verificadas foram limitadas a ler 6.000 postagens por dia, enquanto as contas não verificadas podem ler 600 por dia. Esta é uma nova atualização, por isso ainda não sabemos se foi eficaz.

Podemos nos proteger?

No entanto, em última análise, recai sobre os utilizadores a responsabilidade de ter cautela e discernir a verdade da falsidade, especialmente durante os períodos eleitorais. Ao avaliar criticamente as informações e verificar as fontes, os utilizadores podem desempenhar um papel na proteção da integridade dos processos democráticos contra o ataque de bots e campanhas de desinformação no X. Cada utilizador é, de facto, um defensor da verdade e da democracia na linha da frente. Vigilância, pensamento crítico e uma boa dose de ceticismo são armaduras essenciais.

Nas redes sociais, é importante que os usuários entendam as estratégias empregadas por contas maliciosas.

Os intervenientes maliciosos utilizam frequentemente redes de bots para amplificar narrativas falsas, manipular tendências e disseminar rapidamente desinformação. Os usuários devem ter cuidado ao encontrar contas que apresentem comportamento suspeito, como postagens excessivas ou mensagens repetitivas.

A desinformação também é frequentemente propagada através de websites dedicados a notícias falsas. Eles são projetados para imitar fontes de notícias confiáveis. Os usuários são aconselhados a verificar a autenticidade das fontes de notícias cruzando informações com fontes confiáveis e consultando organizações de verificação de fatos.

A autoconsciência é outra forma de proteção, especialmente contra táticas de engenharia social. A manipulação psicológica é frequentemente utilizada para enganar os usuários, fazendo-os acreditar em falsidades ou se envolver em certas ações. Os utilizadores devem manter a vigilância e avaliar criticamente o conteúdo que encontram, especialmente durante períodos de maior sensibilidade, como eleições.

Mantendo-nos informados, participando no discurso civil e defendendo a transparência e a responsabilização, podemos moldar colectivamente um ecossistema digital que promova a confiança, a transparência e a tomada de decisões informadas.

Fornecido por The Conversation

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.