A atividade online é cada vez mais influenciada por recomendações algorítmicas baseadas em dados coletados sobre o comportamento do consumidor por empresas que muitas vezes relutam em divulgar quais dados estão coletando ou como estão usando.
Pesquisadores da Universidade de Auckland se esforçaram para descobrir mais sobre como esses algoritmos funcionam analisando os termos de uso e as políticas de privacidade do Spotify e do Tinder. A pesquisa, publicada no Journal of the Royal Society of New Zealand , foi conduzido pelo Dr. Fabio Morreale, School of Music, e Matt Bartlett e Gauri Prabhakar, School of Law.

As empresas que coletam e usam dados do consumidor (geralmente para seu próprio ganho financeiro) são notavelmente resistentes ao escrutínio acadêmico, descobriram os pesquisadores. "Apesar de sua poderosa influência, há poucos detalhes concretos sobre como, exatamente, esses algoritmos funcionam, então tivemos que usar maneiras criativas para descobrir", diz o Dr. Morreale.

A equipe analisou os documentos legais do Tinder e do Spotify porque ambas as plataformas são baseadas em algoritmos de recomendação que estimulam os usuários a ouvir músicas específicas ou a se relacionar romanticamente com outro usuário. “Eles foram amplamente ignorados em comparação com empresas de tecnologia maiores, como Facebook, Google, Tik Tok etc., que enfrentaram mais escrutínio”, diz ele. "As pessoas podem pensar que são mais benignas, mas ainda são altamente influentes."

Os pesquisadores analisaram as iterações dos documentos legais na última década. As empresas são cada vez mais obrigadas a informar aos usuários quais dados estão sendo coletados, mas a extensão e o idioma dos documentos legais não podem ser descritos como fáceis de usar.

"Eles tendem para o legalista e vago, inibindo a capacidade de pessoas de fora de examinar adequadamente os algoritmos das empresas e seu relacionamento com os usuários. Isso dificulta os pesquisadores acadêmicos e certamente o usuário médio", diz Morreale. Sua pesquisa revelou vários insights. As políticas de privacidade do Spotify, por exemplo, mostram que a empresa coleta muito mais informações pessoais do que em seus primeiros anos, incluindo novos tipos de dados.

"Na iteração de 2012 de sua política de privacidade, as práticas de dados do Spotify incluíam apenas informações básicas:as músicas que um usuário toca, playlists que um usuário cria e informações pessoais básicas, como endereço de e-mail do usuário, senha, idade, sexo e localização", diz Dr. Morreal. Após várias iterações da política de privacidade, a política de 2021 existente permite que a empresa colete fotos dos usuários, dados de localização, dados de voz, dados de som de fundo e outros tipos de informações pessoais.

A evolução nos termos de uso do Spotify também afirma agora que "o conteúdo que você visualiza, incluindo sua seleção e colocação, pode ser influenciado por considerações comerciais, incluindo acordos com terceiros". Isso oferece amplo espaço para a empresa destacar legalmente o conteúdo para um usuário específico com base em um acordo comercial, diz o Dr. Morreale.

"O Spotify promete que a 'playlist é criada apenas para você, com base na música que você já ama', mas os termos de uso do Spotify detalham como um algoritmo pode ser influenciado por fatores extrínsecos ao usuário, como acordos comerciais com artistas e gravadoras."

"Em suas recomendações (e playlists, aliás), o Spotify também deve estar empurrando artistas de gravadoras que detêm ações do Spotify - isso é anticompetitivo, e devemos saber disso."

E provavelmente ao contrário da percepção da maioria dos usuários, o aplicativo de namoro Tinder é "um grande algoritmo", diz Matt Bartlett. "O Tinder afirmou anteriormente que combinou pessoas com base em 'pontuações de conveniência' calculadas por um algoritmo. Acho que os usuários não entendem ou sabem completamente como o algoritmo do Tinder funciona, e o Tinder se esforça para não nos contar."

"Isso não quer dizer que isso seja uma coisa ruim - o problema é que eles não são transparentes sobre como a correspondência ocorre. Na minha opinião, os termos de uso devem especificar isso." Embora os pesquisadores não tenham conseguido identificar completamente como os algoritmos das plataformas funcionam, sua pesquisa destacou esse mesmo problema – que as empresas não são transparentes sobre a coleta de nossos dados ou como os estão usando.

"Com essas poderosas plataformas digitais possuindo uma influência considerável na sociedade contemporânea, seus usuários e a sociedade em geral merecem mais clareza sobre como os algoritmos de recomendação estão funcionando", diz o Dr. Morreale. “É uma loucura que não possamos descobrir; acho que no futuro vamos olhar para trás e ver isso como o Velho Oeste da grande tecnologia”.