Na noite de 17 de fevereiro de 2018, A professora Mary Beard postou no Twitter uma foto dela chorando. O eminente classicista da Universidade de Cambridge, que tem quase 200, 000 seguidores no Twitter, ficou perturbado depois de receber uma tempestade de abusos online. Essa foi a reação a um comentário que ela fez sobre o Haiti. Ela também tuitou:"Eu falo com o coração (e é claro que posso estar errada). Mas a merda que recebo em resposta simplesmente não é; realmente não é."

Nos dias que se seguiram, Beard recebeu apoio de várias pessoas importantes. Greg Jenner, um colega historiador de celebridades, tweetou sobre sua própria experiência de uma tempestade no Twitter:"Sempre me lembrarei de como foi traumático ser repentinamente odiado por estranhos. Independentemente da moralidade - posso estar certo ou errado na minha opinião - fiquei surpreso (mais tarde, quando me recuperei) em como isso foi psicologicamente desestabilizador para mim. "

Aqueles que tuíam suporte para Beard - independentemente de concordarem com seu tweet inicial que desencadeou as respostas abusivas - foram eles próprios alvos. E quando um dos críticos de Beard, o colega acadêmico de Cambridge Priyamvada Gopal, uma mulher de ascendência asiática, expôs sua resposta ao tweet original de Beard em um artigo online, ela recebeu sua própria torrente de abusos.

Há evidências contundentes de que mulheres e membros de grupos étnicos minoritários são desproporcionalmente alvos de abusos no Twitter. Onde esses marcadores de identidade se cruzam, o bullying pode se tornar particularmente intenso, como vivido pela parlamentar negra Diane Abbott, que sozinho recebeu quase metade de todos os tweets abusivos enviados a mulheres deputadas durante o período que antecedeu as eleições gerais de 2017 no Reino Unido. Mulheres parlamentares negras e asiáticas receberam em média 35% mais tweets abusivos do que suas colegas brancas, mesmo quando Abbott foi excluída do total.

A constante enxurrada de abusos, incluindo ameaças de morte e ameaças de violência sexual, está silenciando as pessoas, empurrando-os para fora das plataformas online e reduzindo ainda mais a diversidade de vozes e opiniões online. E não dá sinais de diminuir. Uma pesquisa do ano passado descobriu que 40 por cento dos adultos americanos sofreram pessoalmente abuso online, com quase metade deles recebendo formas graves de assédio, incluindo ameaças físicas e perseguição. 70 por cento das mulheres descreveram o assédio online como um "grande problema".

Os modelos de negócios das plataformas de mídia social, como YouTube e Facebook, promova conteúdo com maior probabilidade de obter uma resposta de outros usuários, pois mais engajamento significa melhores oportunidades de publicidade. Mas isso tem uma consequência de favorecer o conteúdo divisionista e fortemente emotivo ou extremo, o que pode, por sua vez, alimentar "bolhas" online de grupos que refletem e reforçam as opiniões uns dos outros, ajudando a impulsionar a disseminação de conteúdo mais extremo e fornecendo um nicho para "notícias falsas". Nos últimos meses, pesquisadores revelaram muitas maneiras que vários interesses investidos, incluindo agentes russos, têm procurado manipular a opinião pública infiltrando-se nas bolhas das redes sociais.

Nossa capacidade humana de comunicar ideias através de redes de pessoas nos permitiu construir o mundo moderno. A Internet oferece uma promessa incomparável de cooperação e comunicação entre toda a humanidade. Mas, em vez de abraçar uma extensão massiva de nossos círculos sociais online, parecemos estar voltando ao tribalismo e ao conflito, e a crença no potencial da Internet para reunir a humanidade em uma gloriosa rede de colaboração agora começa a parecer ingênua. Embora geralmente conduzamos nossas interações na vida real com estranhos de maneira educada e respeitosa, online podemos ser horríveis. Como podemos reaprender as técnicas colaborativas que nos permitiram encontrar um terreno comum e prosperar como espécie?

"Não pense demais, basta apertar o botão! "

Eu clico em um valor, empobrecendo-me em um instante, e passar rapidamente para a próxima pergunta, cientes de que estamos todos jogando contra o relógio. Meus companheiros estão longe e são desconhecidos para mim. Não tenho ideia se estamos todos juntos ou se estou sendo feito de idiota, mas eu continuo, sabendo que os outros dependem de mim.

Estou jogando um jogo chamado de bens públicos no Laboratório de Cooperação Humana da Universidade de Yale. Os pesquisadores aqui o usam como uma ferramenta para ajudar a entender como e por que cooperamos, e se podemos melhorar nosso comportamento pró-social.

Ao longo dos anos, os cientistas propuseram várias teorias sobre por que os humanos cooperam tão bem a ponto de formar sociedades fortes. As raízes evolutivas de nossa gentileza geral, a maioria dos pesquisadores agora acredita, pode ser encontrada na vantagem de sobrevivência individual que os humanos experimentam quando cooperamos como um grupo. Eu vim para New Haven, Connecticut, em um fevereiro nevado, para visitar um grupo de laboratórios onde os pesquisadores estão usando experimentos para explorar ainda mais nosso impulso extraordinário de ser gentil com os outros, mesmo às nossas próprias custas.

O jogo que estou jogando, na plataforma online Mechanical Turk da Amazon, é um dos experimentos em andamento do laboratório. Estou em uma equipe de quatro pessoas em locais diferentes, e cada um de nós recebe a mesma quantia de dinheiro para jogar. Somos solicitados a escolher com quanto dinheiro contribuiremos para o pote do grupo, no entendimento de que este pote será dobrado e dividido igualmente entre nós.

Este tipo de dilema social, como toda cooperação, confia em um certo nível de confiança de que os outros em seu grupo serão legais. Se todos no grupo contribuírem com todo o seu dinheiro, todo o dinheiro é dobrado, redistribuído de quatro maneiras, e todo mundo dobra seu dinheiro. Vitória-vitória!

"Mas se você pensar nisso da perspectiva de um indivíduo, "diz o diretor do laboratório David Rand, "para cada dólar que você contribuir, ele é dobrado para dois dólares e depois dividido em quatro partes - o que significa que cada pessoa recebe apenas 50 centavos de volta pelo dólar que contribuiu. "

Mesmo que todos fiquem melhor coletivamente contribuindo para um projeto de grupo que ninguém poderia gerenciar sozinho - na vida real, isso poderia ser o pagamento de um prédio de hospital, ou cavar uma vala de irrigação comunitária - há um custo a nível individual. Financeiramente, você ganha mais dinheiro sendo mais egoísta.

A equipe de Rand conduziu este jogo com milhares de jogadores. Metade deles são questionados, como eu era, para decidir sua contribuição rapidamente - em 10 segundos - enquanto a outra metade é solicitada a tomar seu tempo e considerar cuidadosamente sua decisão. Acontece que quando as pessoas seguem seus instintos, eles são muito mais generosos do que quando passam tempo deliberando.

"Há muitas evidências de que a cooperação é uma característica central da evolução humana, "diz Rand. Benefícios individuais, e são mais propensos a sobreviver, cooperando com o grupo. E ter permissão para permanecer no grupo e se beneficiar dele depende de nossa reputação de nos comportarmos de forma cooperativa.

"Nas sociedades de pequena escala em que nossos ancestrais viviam, todas as nossas interações foram com pessoas que você iria ver novamente e interagir no futuro imediato, "Rand diz. Isso manteve sob controle qualquer tentação de agir agressivamente ou aproveitar e aproveitar as contribuições de outras pessoas." Faz sentido, de uma forma egoísta, ser cooperativo. "

A cooperação gera mais cooperação em um ciclo mutuamente benéfico. Em vez de decidir sempre se é do nosso interesse a longo prazo ser simpático, é mais eficiente e com menos esforço ter a regra básica:ser legal com as outras pessoas. É por isso que nossa resposta irrefletida no experimento é generosa.

Ao longo de nossas vidas, aprendemos com a sociedade ao nosso redor como ser cooperativos. Mas nossos comportamentos aprendidos também podem mudar rapidamente.

Aqueles no experimento de Rand que jogam a rodada de tiro rápido são em sua maioria generosos e recebem dividendos generosos, reforçando sua visão generosa. Considerando que aqueles que consideram suas decisões são mais egoístas, resultando em um pequeno pote de grupo, reforçando a ideia de que não vale a pena contar com o grupo. Então, em um outro experimento, Rand deu algum dinheiro para pessoas que haviam jogado uma rodada do jogo. Eles então foram questionados sobre quanto eles gostariam de dar a um estranho anônimo. Desta vez, não havia incentivo para dar; eles estariam agindo de forma totalmente caridosa.

Acontece que havia grandes diferenças. As pessoas que se acostumaram a cooperar no primeiro estágio deram duas vezes mais dinheiro no segundo estágio do que as pessoas que se acostumaram a ser egoístas. "Então, estamos afetando a vida interna e o comportamento das pessoas, "Rand diz." A maneira como eles se comportam, mesmo quando ninguém está olhando e quando não há nenhuma instituição para puni-los ou recompensá-los.

A equipe de Rand testou como pessoas em diferentes países jogam o jogo, para ver como a força das instituições sociais - como o governo, família, educação e sistemas jurídicos - influencia o comportamento. No Quênia, onde a corrupção do setor público é alta, jogadores inicialmente deram menos generosamente ao estranho do que jogadores nos Estados Unidos, que tem menos corrupção. Isso sugere que as pessoas que podem contar com instituições sociais relativamente justas se comportam de maneira mais pública; aqueles cujas instituições são menos confiáveis ​​são mais protecionistas. Contudo, depois de jogar apenas uma rodada da versão de promoção da cooperação do jogo de bens públicos, a generosidade dos quenianos se igualava à dos americanos. E tinha dois lados:os americanos que foram treinados para ser egoístas deram muito menos.

Então, há algo na cultura da mídia social online que faz com que algumas pessoas se comportem de maneira mesquinha? Ao contrário das sociedades antigas de caçadores-coletores, que dependem de cooperação e compartilhamento para sobreviver e muitas vezes têm regras para quando oferecer comida a quem em sua rede social, as redes sociais têm instituições fracas. Eles oferecem distância física, relativo anonimato e pouco risco de reputação ou punitivo por mau comportamento:se você for mau, ninguém que você conhece vai ver.

Eu caminho alguns quarteirões na neve para encontrar o Laboratório de Psicologia de Molly Crockett, onde os pesquisadores estão investigando a tomada de decisão moral na sociedade. Uma área em que eles se concentram é como as emoções sociais são transformadas online, em particular a indignação moral. Estudos de imagens cerebrais mostram que, quando as pessoas agem com base em sua indignação moral, o centro de recompensa do cérebro é ativado - eles se sentem bem com isso. Isso reforça o comportamento deles, portanto, é mais provável que eles voltem a intervir de maneira semelhante. Então, se virem alguém agindo de uma forma que viola uma norma social, permitindo que seu cachorro suja um parquinho, por exemplo, e eles confrontam publicamente o perpetrador sobre isso, eles se sentem bem depois. E embora desafiar um violador das normas sociais de sua comunidade tenha seus riscos - você pode ser atacado - também aumenta sua reputação.

Em nossas vidas relativamente pacíficas, raramente somos confrontados com um comportamento ultrajante, então raramente vemos ultraje moral expresso. Abra o Twitter ou o Facebook e você terá uma imagem muito diferente. Pesquisas recentes mostram que mensagens com palavras morais e emocionais têm maior probabilidade de se espalhar nas redes sociais - cada palavra moral ou emocional em um tweet aumenta a probabilidade de ser retuitado em 20 por cento.

"O conteúdo que desencadeia indignação e expressa indignação tem muito mais probabilidade de ser compartilhado, "Crockett diz. O que criamos online é" um ecossistema que seleciona o conteúdo mais ultrajante, emparelhado com uma plataforma onde é mais fácil do que nunca expressar indignação ".

Ao contrário do mundo offline, não há risco pessoal em confrontar e expor alguém. Leva apenas alguns cliques de um botão e você não precisa estar fisicamente próximo, então há muito mais indignação expressa online. E se alimenta sozinho. "Se você punir alguém por violar uma norma, que faz você parecer mais confiável para os outros, para que você possa transmitir seu caráter moral ao expressar indignação e punir as violações das normas sociais, "Crockett diz." E as pessoas acreditam que estão espalhando o bem ao expressar indignação - que isso vem de uma posição de moralidade e retidão.

"Quando você sai do modo offline - onde pode aumentar sua reputação para quem quer que esteja por perto no momento - para o online, onde você transmite para toda a sua rede social, então, isso amplifica dramaticamente as recompensas pessoais de expressar indignação. "

Isso é agravado pelo feedback que as pessoas recebem nas redes sociais, na forma de curtidas e retuítes e assim por diante. "Nossa hipótese é que o design dessas plataformas pode transformar a expressão de indignação em um hábito, e um hábito é algo que é feito sem levar em conta suas consequências - é insensível ao que acontece a seguir, é apenas uma resposta cega a um estímulo, "Crockett explica.

"Acho que vale a pena ter uma conversa com a sociedade sobre se queremos que nossa moralidade esteja sob o controle de algoritmos cujo objetivo é ganhar dinheiro para empresas de tecnologia gigantes, "Ela acrescenta." Acho que todos nós gostaríamos de acreditar e sentir que nossas emoções morais, pensamentos e comportamentos são intencionais e não reações automáticas a tudo o que é colocado à nossa frente que o nosso designer de smartphone pensa que lhes trará mais lucro. "

Do lado positivo, os custos mais baixos de expressar indignação online permitiram marginalizados, grupos com menos poder para promover causas que tradicionalmente têm sido mais difíceis de promover. A indignação moral nas redes sociais desempenhou um papel importante ao chamar a atenção para o abuso sexual de mulheres por homens de alto status. E em fevereiro de 2018, Adolescentes da Flórida protestando nas redes sociais contra mais um tiroteio em escolas de ensino médio em seu estado ajudou a mudar a opinião pública, bem como envergonhar uma série de grandes corporações para que abandonem seus esquemas de descontos para membros da National Rifle Association.

"Acho que deve haver maneiras de manter os benefícios do mundo online, "diz Crockett, "enquanto se pensa com mais cuidado sobre como redesenhar essas interações para eliminar algumas das partes mais caras."

Alguém que pensou muito sobre o design de nossas interações nas redes sociais é Nicholas Christakis, diretor do Laboratório da Natureza Humana de Yale, localizado a apenas mais alguns quarteirões nevados de distância. Sua equipe estuda como nossa posição em uma rede social influencia nosso comportamento, e até mesmo como certos indivíduos influentes podem alterar dramaticamente a cultura de toda uma rede.

A equipe está explorando maneiras de identificar esses indivíduos e alistá-los em programas de saúde pública que podem beneficiar a comunidade. Em Honduras, eles estão usando esta abordagem para influenciar a inscrição de vacinação e cuidados maternos, por exemplo. Conectados, essas pessoas têm o potencial de transformar uma cultura de bullying em uma cultura de apoio.

As empresas já usam um sistema bruto de identificação dos chamados influenciadores do Instagram para anunciar suas marcas para eles. Mas Christakis não está olhando apenas para o quão popular um indivíduo é, mas também sua posição na rede e a forma dessa rede. Em algumas redes, como uma pequena aldeia isolada, todos estão intimamente conectados e é provável que você conheça todos em uma festa; na cidade, por contraste, as pessoas podem viver mais de perto como um todo, mas é menos provável que você conheça todo mundo em uma festa lá. O grau de interconexão de uma rede afeta como os comportamentos e as informações se espalham ao seu redor, ele explica.

"Se você pegar átomos de carbono e os montar de uma maneira, eles se tornam grafite, que é macio e escuro. Pegue os mesmos átomos de carbono e monte-os de uma maneira diferente, e se torna diamante, o que é difícil e claro. Essas propriedades de dureza e clareza não são propriedades dos átomos de carbono - são propriedades da coleção de átomos de carbono e dependem de como você conecta os átomos de carbono uns aos outros, "diz ele." E é o mesmo com grupos humanos. "

Christakis desenvolveu um software para explorar isso criando sociedades artificiais temporárias online. "Colocamos as pessoas lá e as deixamos interagir umas com as outras e ver como jogam um jogo de bens públicos, por exemplo, para avaliar o quão gentis eles são com as outras pessoas. "

Então ele manipula a rede. "Ao projetar suas interações de uma maneira, Eu posso torná-los muito doces um para o outro, funcionam bem juntos, e eles são saudáveis ​​e felizes e cooperam. Ou você pega as mesmas pessoas e as conecta de uma maneira diferente e elas são uns idiotas cruéis entre si, não cooperam, não compartilham informações e não são gentis uns com os outros. "

Em um experimento, ele designou estranhos aleatoriamente para jogar o jogo dos bens públicos uns com os outros. No início, ele diz, cerca de dois terços das pessoas cooperaram. "Mas algumas das pessoas com quem eles interagem tirarão vantagem deles e, porque sua única opção é ser gentil e cooperativo ou ser um desertor, eles optam por desertar porque estão presos a essas pessoas se aproveitando deles. E, no final do experimento, todo mundo é um idiota para todo mundo. "

Christakis mudou isso simplesmente dando a cada pessoa um pouco de controle sobre com quem eles estavam conectados após cada rodada. "Eles tiveram que tomar duas decisões:sou ou não bom para os meus vizinhos; e fico com este vizinho ou não." A única coisa que cada jogador sabia sobre seus vizinhos era se cada um deles havia cooperado ou desertado na rodada anterior. “O que pudemos mostrar é que as pessoas cortam os laços com os desertores e se unem aos cooperadores, e a rede se reconectou e se converteu em uma estrutura semelhante a um diamante, em vez de uma estrutura semelhante a grafite. "Em outras palavras, uma estrutura pró-social cooperativa em vez de uma estrutura não cooperativa.

Na tentativa de gerar comunidades online mais cooperativas, A equipe de Christakis começou a adicionar bots às suas sociedades temporárias. Ele me leva até um laptop e me coloca em um jogo diferente. Neste jogo, jogadores anônimos têm que trabalhar juntos como uma equipe para resolver um dilema com o qual os jogadores estão familiarizados:cada um de nós tem que escolher uma das três cores, mas as cores dos jogadores diretamente conectados entre si devem ser diferentes. Se resolvermos o quebra-cabeça dentro de um limite de tempo, todos nós recebemos uma parte do prêmio em dinheiro; se falharmos, ninguém ganha nada. Estou jogando com pelo menos 30 outras pessoas. Nenhum de nós pode ver toda a rede de conexões, apenas as pessoas com as quais estamos diretamente conectados - no entanto, temos que cooperar para vencer.

Estou conectado a dois vizinhos, cujas cores são verdes e azuis, então eu escolho vermelho. Meu vizinho esquerdo então muda para vermelho, então eu mudo rapidamente para azul. O jogo continua e fico cada vez mais tenso, amaldiçoando meus tempos de reação lentos. Eu freqüentemente tenho que mudar minha cor, respondendo a mudanças invisíveis em outras partes da rede, que enviam uma cascata de mudanças ao longo das conexões. O tempo acabou antes de resolvermos o quebra-cabeça, solicitando respostas iradas na caixa de comentários do jogo de jogadores remotos condenando a estupidez de todos os outros. Pessoalmente, Estou aliviado que acabou e não há mais ninguém dependendo das minhas habilidades de jogo manipuladores para ganhar dinheiro.

Christakis me disse que algumas das redes são tão complexas que o quebra-cabeça é impossível de resolver dentro do prazo. Meu alívio é de curta duração, no entanto:o que eu joguei tinha solução. Ele retrocede o jogo, revelando pela primeira vez toda a rede para mim. Vejo agora que estava em uma ramificação inferior do hub principal da rede. Alguns dos jogadores estavam conectados a apenas uma outra pessoa, mas a maioria estava conectada a três ou mais. Milhares de pessoas em todo o mundo jogam esses jogos no Amazon Mechanical Turk, atraídos pela pequena taxa que eles ganham por rodada. Mas enquanto estou assistindo o jogo que acabei de jogar se desenrola, Christakis revela que três desses jogadores são, na verdade, bots plantados. "Nós os chamamos de 'IA burra', " ele diz.

Sua equipe não está interessada em inventar uma IA superinteligente para substituir a cognição humana. Em vez de, o plano é se infiltrar em uma população de humanos inteligentes com robôs burros para ajudar os humanos a se ajudarem.

"Queríamos ver se poderíamos usar os burros-robôs para libertar as pessoas para que possam cooperar e coordenar um pouco mais - para que sua capacidade nativa de um bom desempenho possa ser revelada por um pouco de assistência, "Christakis diz. Ele descobriu que se os bots funcionassem perfeitamente, isso não ajudou os humanos. Mas se os bots cometeram alguns erros, eles revelaram o potencial do grupo para encontrar uma solução.

"Alguns desses bots fizeram escolhas contra-intuitivas. Mesmo que todos os seus vizinhos tivessem verde e devessem ter escolhido laranja, em vez disso, eles também escolheram verde. "Quando eles fizeram isso, permitiu que um dos vizinhos verdes colhesse laranja, "que destrava o próximo cara, ele pode escolher uma cor diferente e, Uau, agora resolvemos o problema ". Sem o bot, aqueles jogadores humanos provavelmente teriam ficado com o verde, não percebendo que era o problema. "Aumentar os conflitos temporariamente permite que seus vizinhos façam escolhas melhores."

Adicionando um pouco de ruído ao sistema, os bots ajudaram a rede a funcionar com mais eficiência. Talvez uma versão desse modelo envolva infiltrar-se nos feeds de notícias de partidários com itens ocasionais que oferecem uma perspectiva diferente, ajudando a tirar as pessoas de suas bolhas de conforto da mídia social e permitir que a sociedade como um todo coopere mais.

Muito do comportamento anti-social online decorre do anonimato das interações na Internet - os custos de reputação de ser mesquinho são muito mais baixos do que offline. Aqui, os bots também podem oferecer uma solução. Um experimento descobriu que o nível de abuso racista tweetado contra usuários negros pode ser drasticamente reduzido pelo uso de contas de bot com imagens de perfil branco para responder a tweeters racistas. Uma resposta típica de um bot a um tweet racista seria:"Ei, cara, lembre-se de que existem pessoas reais que se machucam quando você as assedia com esse tipo de linguagem. ”O simples fato de cultivar um pouco de empatia nesses tweeters reduziu seus tweets racistas quase a zero por semanas depois.

Outra forma de lidar com o baixo custo de reputação do mau comportamento online é arquitetar alguma forma de punição social. Uma empresa de jogos, Liga dos lendários, fez isso introduzindo um recurso "Tribunal", em que o jogo negativo é punido por outros jogadores. A empresa informou que 280, 000 jogadores foram "reformados" em um ano, o que significa que depois de serem punidos pelo Tribunal, eles mudaram seu comportamento e alcançaram uma posição positiva na comunidade. Os desenvolvedores também podem criar recompensas sociais por bom comportamento, encorajando elementos mais cooperativos que ajudem a construir relacionamentos.

Os pesquisadores já estão começando a aprender como prever quando uma bolsa está prestes a piorar - o momento em que ela poderia se beneficiar de uma intervenção preventiva. "Você pode pensar que existe uma minoria de sociopatas online, que chamamos de trolls, que estão fazendo todo esse mal, "diz Cristian Danescu-Niculescu-Mizil, no Departamento de Ciência da Informação da Cornell University. "O que realmente encontramos em nosso trabalho é que pessoas comuns, assim como você e eu, pode se envolver em tal comportamento anti-social. Por um período específico de tempo, você pode realmente se tornar um troll. E isso é surpreendente. "

Também é alarmante. Eu mentalmente folheio meus próprios tweets recentes, na esperança de não ter caído no bullying em alguma tentativa estranha de parecer engraçado ou legal para meus seguidores online. Afinal, pode ser muito tentador ser abusivo com alguém distante, quem você não conhece, se você acha que vai impressionar seu grupo social.

Danescu-Niculescu-Mizil tem investigado as seções de comentários abaixo dos artigos online. Ele identifica dois gatilhos principais para trolling:o contexto da troca - como os outros usuários estão se comportando - e seu humor. "Se você está tendo um dia ruim, ou se for segunda-feira, por exemplo, é muito mais provável que você troll na mesma situação, "ele diz." Você é melhor em uma manhã de sábado. "

Depois de coletar os dados, incluindo de pessoas que se envolveram em comportamento de trollagem no passado, Danescu-Niculescu-Mizil construiu um algoritmo que prevê com 80 por cento de precisão quando alguém está prestes a se tornar abusivo online. Isso oferece uma oportunidade para, por exemplo, introduzem um atraso na rapidez com que eles podem postar suas respostas. Se as pessoas tiverem que pensar duas vezes antes de escrever algo, que melhora o contexto da troca para todos:é menos provável que você veja pessoas se comportando mal, e, portanto, menos propenso a se comportar mal.

A boa notícia é que, apesar do comportamento horrível que muitos de nós experimentamos online, a maioria das interações é agradável e cooperativa. A indignação moral justificada é empregada de forma útil para desafiar tweets odiosos. Um recente estudo britânico analisando o anti-semitismo no Twitter descobriu que as postagens que desafiam os tuítes anti-semitas são compartilhadas muito mais amplamente do que os próprios tuítes anti-semitas. A maioria das postagens odiosas foi ignorada ou apenas compartilhada em uma pequena câmara de eco de relatos semelhantes. Talvez já estejamos começando a fazer o trabalho dos bots nós mesmos.

Como Danescu-Niculescu-Mizil aponta, tivemos milhares de anos para aprimorar nossas interações pessoa a pessoa, mas apenas 20 anos de mídia social. "Desligada, we have all these cues from facial expressions to body language to pitch… whereas online we discuss things only through text. I think we shouldn't be surprised that we're having so much difficulty in finding the right way to discuss and cooperate online."

As our online behaviour develops, we may well introduce subtle signals, digital equivalents of facial cues, to help smooth online discussions. Enquanto isso, the advice for dealing with online abuse is to stay calm, it's not your fault. Don't retaliate but block and ignore bullies, or if you feel up to it, tell them to stop. Talk to family or friends about what's happening and ask them to help you. Take screenshots and report online harassment to the social media service where it's happening, and if it includes physical threats, report it to the police.

If social media as we know it is going to survive, the companies running these platforms are going to have to keep steering their algorithms, perhaps informed by behavioural science, to encourage cooperation rather than division, positive online experiences rather than abuse. As users, we too may well learn to adapt to this new communication environment so that civil and productive interaction remains the norm online as it is offline.

"I'm optimistic, " Danescu-Niculescu-Mizil says. "This is just a different game and we have to evolve."

This article first appeared on Mosaic and is republished here under a Creative Commons licence.