Os aplicativos de mídia social apresentam regularmente aos adolescentes conteúdo selecionado por algoritmos, muitas vezes descrito como "para você", sugerindo, por implicação, que o conteúdo selecionado não é apenas "para você", mas também "sobre você" - um espelho que reflete sinais importantes sobre a pessoa que você são.



Todos os utilizadores das redes sociais estão expostos a estes sinais, mas os investigadores entendem que os adolescentes se encontram numa fase especialmente maleável na formação da identidade pessoal. Os estudiosos começaram a demonstrar que a tecnologia está a ter efeitos de formação de gerações, não apenas na forma como influencia as perspectivas culturais, o comportamento e a privacidade, mas também na forma como pode moldar a personalidade daqueles que são educados nas redes sociais.

A prevalência da mensagem “para si” levanta questões importantes sobre o impacto destes algoritmos na forma como os adolescentes se percebem e veem o mundo, e a erosão subtil da sua privacidade, que aceitam em troca desta visão.

Os adolescentes gostam da reflexão algorítmica

Inspirados por estas questões, os meus colegas John Seberger e Afsaneh Razi, da Universidade Drexel, e eu perguntámos:Como é que os adolescentes navegam neste ambiente gerado por algoritmos e como se reconhecem no espelho que ele apresenta?

Em nosso estudo qualitativo de entrevistas com adolescentes de 13 a 17 anos, descobrimos que o conteúdo algorítmico personalizado parece apresentar o que os adolescentes interpretam como uma imagem espelhada confiável de si mesmos, e que eles gostam muito da experiência de ver esse reflexo nas redes sociais.

Os adolescentes com quem conversamos dizem que preferem uma mídia social totalmente customizada para eles, retratando com o que concordam, o que querem ver e, portanto, quem são.

“Se eu procurar algo que seja importante para mim, isso aparecerá como uma das principais postagens [e] mostrará, tipo, pessoas [como eu] que estão tendo uma boa discussão.”

Acontece que os adolescentes que entrevistamos acreditam que algoritmos de mídia social como o TikToks se tornaram tão bons que eles veem seus próprios reflexos nas redes sociais como bastante precisos. Tanto é verdade que os adolescentes são rápidos em atribuir inconsistências de conteúdo à sua autoimagem como anomalias – por exemplo, o resultado de um envolvimento inadvertido com conteúdo anterior ou apenas uma falha.

“Em algum momento eu vi algo sobre aquele programa, talvez no TikTok, e interagi com ele sem realmente perceber.”

Quando o conteúdo personalizado não é agradável ou consistente com sua autoimagem, os adolescentes que entrevistamos dizem que passam por ele, na esperança de nunca mais vê-lo. Mesmo quando essas anomalias percebidas assumem a forma de conteúdo extremamente hipermasculino ou “desagradável”, os adolescentes não atribuem isso a nada especificamente sobre si mesmos, nem afirmam procurar uma explicação em seus próprios comportamentos. De acordo com os adolescentes em nossas entrevistas, o espelho da mídia social não os torna mais auto-reflexivos nem desafia seu senso de identidade.

Uma coisa que nos surpreendeu foi que, embora os adolescentes estivessem cientes de que o que veem no feed "para você" é o produto de seus hábitos de rolagem nas plataformas de mídia social, eles desconhecem ou não se preocupam com o fato de os dados capturados nos aplicativos contribuírem para essa auto-estima. -imagem. Independentemente disso, eles não veem a alimentação "para você" como um desafio ao seu senso de identidade, muito menos como um risco à sua identidade própria - nem, aliás, como qualquer base para preocupação.

Moldando a identidade

A pesquisa sobre identidade já percorreu um longo caminho desde que o sociólogo Erving Goffman propôs a "apresentação de si mesmo" em 1959. Ele postulou que as pessoas gerenciam suas identidades por meio do desempenho social para manter o equilíbrio entre quem elas pensam que são e como os outros as percebem.

Quando Goffman propôs pela primeira vez sua teoria, não havia nenhuma interface de mídia social disponível para apresentar um espelho prático do eu vivenciado pelos outros. As pessoas foram obrigadas a criar a sua própria imagem em mosaico, derivada de múltiplas fontes, encontros e impressões. Nos últimos anos, os algoritmos de recomendação de mídia social se inseriram no que hoje é uma negociação de três vias entre algoritmos próprios, públicos e de mídia social.

As ofertas “Para você” criam um espaço público-privado por meio do qual os adolescentes podem acessar o que consideram ser um teste bastante preciso de sua autoimagem. Ao mesmo tempo, dizem que podem facilmente ignorá-lo se parecer discordar dessa autoimagem.

O pacto que os adolescentes fazem com as redes sociais, trocando dados pessoais e abrindo mão da privacidade para garantir o acesso a esse espelho algorítmico, parece-lhes um bom negócio. Eles se apresentam como capazes de ignorar ou ignorar o conteúdo recomendado que parece contradizer seu senso de identidade, mas a pesquisa mostra o contrário.

De facto, revelaram-se altamente vulneráveis ​​à distorção da autoimagem e a outros problemas de saúde mental baseados em algoritmos das redes sociais explicitamente concebidos para criar e recompensar hipersensibilidades, fixações e dismorfia – um distúrbio de saúde mental em que as pessoas se fixam na sua aparência.

Dado o que os investigadores sabem sobre o cérebro adolescente e esse estágio de desenvolvimento social – e dado o que pode razoavelmente ser suposto sobre a maleabilidade da autoimagem com base no feedback social – os adolescentes estão errados ao acreditar que podem ultrapassar os riscos de auto-identidade de algoritmos.

Intervenções

Parte da solução poderia ser a construção de novas ferramentas usando inteligência artificial para detectar interações inseguras e, ao mesmo tempo, proteger a privacidade. Outra abordagem é ajudar os adolescentes a refletir sobre essas “duplicações de dados” que construíram.

Meus colegas e eu estamos agora explorando mais profundamente como os adolescentes vivenciam o conteúdo algorítmico e que tipos de intervenções podem ajudá-los a refletir sobre isso. Encorajamos os pesquisadores em nossa área a projetar maneiras de desafiar a precisão dos algoritmos e expô-los como refletindo o comportamento e não sendo.

Outra parte da solução pode envolver munir os adolescentes com ferramentas para restringir o acesso aos seus dados, incluindo a limitação de cookies, ter perfis de pesquisa diferentes e desativar a localização ao usar determinados aplicativos.

Acreditamos que todas essas etapas provavelmente reduzirão a precisão dos algoritmos, criando um atrito muito necessário entre o algoritmo e o eu, mesmo que os adolescentes não estejam necessariamente satisfeitos com os resultados.

Envolver as crianças

Recentemente, meus colegas e eu conduzimos um workshop da Geração Z com jovens da Encode Justice, uma organização global de estudantes do ensino médio e universitários que defendem uma IA segura e equitativa. O objetivo era entender melhor como eles pensam sobre suas vidas sob algoritmos e IA.

Os membros da Geração Z dizem que estão preocupados, mas também ansiosos para se envolver na definição de seu futuro, incluindo a mitigação de danos aos algoritmos. Parte do objetivo do nosso workshop era chamar a atenção e fomentar a necessidade de investigações sobre algoritmos e seus efeitos conduzidas por adolescentes.

O que os investigadores também estão a confrontar é que não sabemos realmente o que significa negociar constantemente a identidade com um algoritmo. Muitos de nós que estudamos adolescentes somos velhos demais para ter crescido em um mundo moderado por algoritmos. Para os adolescentes que estudamos, não existe “antes da IA”.

Acredito que seja perigoso ignorar o que os algoritmos estão fazendo. O futuro dos adolescentes pode ser aquele em que a sociedade reconheça a relação única entre os adolescentes e as redes sociais. Isto significa envolvê-los nas soluções, ao mesmo tempo que fornece orientação.

Fornecido por The Conversation


Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.