p O assédio se tornou onipresente nas mídias sociais e no mundo online - o Twitter tem sido criticado pela forma como lida com o assédio, O algoritmo de tendências do YouTube ocasionalmente promove vídeos ofensivos, e relatar abusos no Instagram ainda é bastante difícil. p Embora as ferramentas atuais de assédio, como bloquear usuários ou filtrar palavras-chave ajudem parcialmente, muitos dos maus-tratos online são tão sutis que um algoritmo sozinho pode não perceber várias pistas.

p Mas e se as pessoas pudessem realmente influenciar seus amigos para ajudar a moderar suas contas e protegê-los de mensagens abusivas?

p Uma equipe do Laboratório de Ciência da Computação e Inteligência Artificial do MIT (CSAIL) usa essa abordagem com o "Squadbox", uma nova ferramenta de crowdsourcing que permite às pessoas que foram alvo de assédio coordenar "esquadrões" de amigos para filtrar mensagens e apoiá-los durante os ataques.

p A equipe entrevistou uma série de cientistas, ativistas, e personalidades do Youtube, e descobriu que muitas pessoas que são assediadas por e-mail dependem de amigos e familiares para se protegerem de mensagens abusivas.

p O autor sênior e professor do MIT David Karger diz que o Squadbox tem como objetivo tornar essa chamada "fonte de amigos" mais eficiente e menos trabalhosa para seus moderadores.

p "Se você apenas der aos moderadores as chaves da sua caixa de entrada, como o moderador sabe quando há um e-mail para moderar, e qual e-mail já foi tratado por outros moderadores? ", diz Karger." O Squadbox permite que os usuários personalizem como o e-mail recebido é tratado, dividir o trabalho para garantir que não haja duplicação de esforços. "

p Karger escreveu o novo artigo com a estudante de PhD Amy Zhang e a ex-estudante do MIT e atual engenheira de software Kaitlin Mahar. A equipe apresentará o trabalho em abril na Conferência CHI da ACM sobre Fatores Humanos em Sistemas Computacionais em Montreal, Canadá.

p Moderação de "origem de amigos"

p Com o Squadbox, o "dono" do esquadrão pode configurar filtros para encaminhar automaticamente o conteúdo recebido para seu canal de moderação. Assim que um e-mail chega, um moderador decide quais e-mails são assédio, e que pode ser encaminhado de volta para a caixa de entrada da pessoa.

p Por exemplo, digamos que um jornalista deseja ter um endereço de e-mail público para receber dicas de notícias, mas teme ter um por causa da frequência com que é assediada por pessoas que discordam de sua reportagem. Ela poderia criar uma conta Squadbox com dois colegas próximos como moderadores, e usar sua conta em qualquer lugar que ela queira compartilhar seu endereço de e-mail. Qualquer e-mail que ela receba nesse endereço passa primeiro pelo seu esquadrão.

p "As soluções anteriores dependiam inteiramente de técnicas automatizadas, ou eram excessivamente dependentes de soluções sociais, como simplesmente fornecer informações da conta de alguém a um amigo, "diz Clifford Lampe, professor de informação na Universidade de Michigan. "Esta linha de trabalho ajuda a fornecer um mapa para uma solução híbrida para o assédio que aumenta o suporte humano com ferramentas de uma forma significativa."

p Enquanto a equipe planeja estender os recursos do Squadbox para trabalhar com plataformas de mídia social, eles dizem que o e-mail é um sistema particularmente útil para estudar o assédio.

p "O que é interessante sobre o e-mail é que não é tão aberto como o Twitter ou o Facebook, "diz Karger." Isso significa que os assediadores podem se sentir menos responsáveis ​​porque seus comentários não são públicos. "

p O Squadbox também permite que os usuários criem "listas brancas" e "listas negras" de remetentes cujos e-mails serão automaticamente aprovados ou rejeitados sem moderação. Os usuários também podem desativar e reativar o sistema, ler pontuações sobre a toxicidade das mensagens, e até mesmo responder a assediadores.

p "O assédio é uma experiência inerentemente debilitante, e dar opções aos sobreviventes permite que eles voltem ao controle, "diz Emily May, co-fundador e diretor executivo da iniciativa global anti-assédio Hollaback! "O Squadbox foi projetado não apenas para lembrar às pessoas que elas têm uma comunidade ao seu redor, mas para ativar essa comunidade em seu nome. "

p A equipe avaliou o Squadbox em cinco pares de amigos, e descobri que usar amigos ajudava com o medo da privacidade e permitia decisões mais personalizadas para as vítimas. Contudo, os usuários ainda temem que um amigo seja sensível a tempos de resposta lentos, e que o sistema também pode estar "espalhando" o fardo. A equipe afirma que ter vários moderadores pode ajudar nesse problema.

p "O Squadbox oferece um sistema tangível de suporte para pessoas que são assediadas online por meio de outras pessoas, "diz May." Precisamos colocar os sobreviventes de volta no controle e criar comunidades fortes o suficiente para declarar:esta não é a Internet que queremos. Não é o mundo que queremos. E não vamos tolerar mais isso. "