Anthony Pinter, um Ph.D. estudante de ciência da informação na University of Colorado Boulder, concluiu recentemente um estudo sobre as experiências das pessoas com lembretes perturbadores e inesperados de um ex no Facebook.

As descobertas de sua equipe são exemplos de crueldade algorítmica - instâncias em que os algoritmos são projetados para fazer algo e fazê-lo bem, mas acabam saindo pela culatra porque não conseguem compreender totalmente as nuances das relações e do comportamento humano.

Como as mídias sociais dificultaram as separações?

Anthony Pinter: Romper com um ente querido sempre significou fazer escolhas difíceis:quem fica com o sofá, quem pega a geladeira, quem fica com o gato.

Mas antes das redes sociais, uma vez que os detalhes confusos foram classificados, não foi muito difícil criar o físico, espaço mental e emocional que a pesquisa mostrou ajudar no processo de cura. No passado, você poderia simplesmente parar de ir à cafeteria favorita do seu ex. Você pode encaixotar as fotos e armazená-las.

A mídia social complicou as coisas. Plataformas como o Facebook são projetadas para incentivar a conexão com sua rede e relembrar o passado. Ele recomenda os próximos eventos, sugere pessoas para adicionar como amigos, ressurge velhas memórias e fotos e destaca o que seus amigos estão fazendo.

Mas depois de um rompimento, você provavelmente não quer ser alertado sobre um novo amigo que seu ex fez no seu feed de notícias. Nem quer ver uma foto antiga com o seu ex reaparecer como uma "Memória". E com acesso à vida online do seu ex apenas com uma pesquisa e um clique de distância, é fácil sucumbir às formas de "perseguição do Facebook, "em que você verifica periodicamente o perfil deles para ver o que estão fazendo e com quem estão saindo.

Não surpreendentemente, O Facebook demonstrou prolongar o processo de cura de uma separação. Por outro lado, você também pode começar a perceber que seu ex já mudou, o que pode ser tão doloroso.

"Apenas bloqueie o seu ex, "você ouvirá as pessoas dizerem. Por que isso não é suficiente?

Pinter :Primeiro, bloquear ou cancelar a amizade não é tão simples quanto parece. Isso pode ser feito em apenas três cliques. Mas uma vez que você fez isso, é difícil caminhar de volta; se você decidir desbloquear alguém ou tornar a amizá-lo, As plataformas de mídia social geralmente alertam o ex que você fez isso - o que pode enviar sinais e expectativas ambíguos.

Mas sim, plataformas como o Facebook, O Twitter e o Instagram têm recursos destinados a evitar esses encontros indesejados - pare de seguir, desfazer amizade ou bloquear. Alguns anos atrás, O Facebook até desenvolveu um recurso chamado Take A Break, que efetivamente silencia alguém por um determinado período de tempo.

Contudo, as pessoas ainda estão vendo lembretes de seus ex-namorados nas redes sociais - mesmo quando eles se aproveitam ativamente de recursos que supostamente evitam esses encontros.

Meus colegas e eu conduzimos entrevistas detalhadas com 19 pessoas que tiveram um lembrete inesperado e perturbador de um ex no Facebook.

Um participante mencionou que a mãe do novo companheiro de um ex foi sugerida como possível amiga. Outro viu seu ex comentando a postagem de um amigo em comum. Em um caso, uma foto antiga que o Facebook ressurgiu por meio do recurso Memórias - de férias na praia que os dois haviam tirado quando eram um casal - nem incluía a imagem do ex do entrevistado. Mas ser levado a pensar sobre aquelas férias já era perturbador o suficiente.

O que realmente está acontecendo aqui?

Pinter: Isso está acontecendo porque os algoritmos ainda não entendem completamente os humanos.

Embora você possa dizer ao Facebook que não quer mais ver seu ex, o algoritmo não percebe que isso também pode incluir lembretes periféricos de seu ex, como uma foto de seu melhor amigo, ou um comentário que ele fez no mural de um amigo em comum.

O contexto é importante, mas os algoritmos geralmente não têm a capacidade de entendê-lo. Mesmo que essa foto da praia não tenha ninguém nela, está carregado de memórias nas quais você prefere não pensar.

Em nosso trabalho, queremos chamar a atenção para o que chamamos de "periferia social" - os satélites de um relacionamento, romântico ou não. Sistemas como o Facebook são construídos para cultivar a comunidade, mas os algoritmos que sustentam o sistema muitas vezes dependem de representações simplistas das experiências das pessoas, como "status de relacionamento" ou "bloqueado". Recursos destinados a evitar encontros desagradáveis ​​na sequência de um rompimento ou outros eventos preocupantes também contam com essas configurações simplistas, ignorando as realidades de uma periferia social.

Para o algoritmo, a sugestão da mãe do novo parceiro do ex é uma sugestão perfeitamente razoável - você provavelmente compartilha amigos em comum que alertam algum tipo de métrica interna. Mas um humano saberia melhor do que fazer essa sugestão.

Por que essas descobertas são importantes?

Pinter: Os algoritmos estão se tornando mais integrados em nossas vidas cotidianas, e a mídia social não é o único lugar onde vemos esses resultados indesejáveis ​​ocorrerem. Por exemplo, conforme as pessoas começam a confiar mais em assistentes de voz como Siri ou Alexa para enviar textos, inevitavelmente nos deparamos com situações em que os programas nos ouvem mal e, por exemplo, enviar uma mensagem totalmente inadequada para um chefe ou pai.

Nossas descobertas apresentam um desafio para designers e desenvolvedores:como podemos criar algoritmos que estão melhor sintonizados com o profundo, experiências vividas dos humanos que usarão esses sistemas? É improvável que haja uma solução única para esse problema. No Facebook, recursos como Pausa ou bloqueio podem ser vistos como etapas importantes. Mas está claro que há muito mais trabalho a fazer.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.