As lojas online podem usar algoritmos para cobrar preços mais altos de alguns clientes do que de outros. As leis europeias oferecem proteção limitada contra essa diferenciação de preços. Frederik Zuiderveen Borgesius, Professor de TIC e Direito Privado na Radboud University, escreveu sobre este mesmo assunto em um artigo publicado na European Business Law Review.
Lojas online como Bol.com e Amazon usam muitos algoritmos para fazer com que os consumidores gastem seu dinheiro mais rapidamente. O usuário médio provavelmente está acostumado a ver produtos recomendados com base em compras anteriores e notificações intermitentes quando os estoques acabam, mas e se um algoritmo fosse usado para exibir um preço de varejo individual para cada cliente? As lojas online podem ajustar os preços de certos códigos postais, ou mesmo clientes individuais com base em endereços IP e outras características.
Discriminação algorítmica e liberdade contratual
Lojas que usam algoritmos raramente abrigam intenções discriminatórias, mas o uso de algoritmos também pode levar inadvertidamente à discriminação. Foi o que aconteceu quando uma instituição de ensino americana cobrou preços mais altos por certas áreas. Os residentes nesses bairros eram principalmente pessoas de origem asiática, quem teve que pagar mais por aulas particulares. Em alguns casos, a diferença de preço para cada curso chegava a US $ 1, 800.
Em princípio, a lei permite diferenciação de preços. A liberdade contratual desempenha um papel importante no direito europeu, o que implica que os vendedores podem determinar seu próprio preço de varejo. Mas se a diferenciação de preços leva à discriminação contra grupos com características protegidas, como etnia ou gênero, lei de não discriminação entrará em jogo.
As regras europeias de não discriminação protegem contra várias formas de discriminação, incluindo discriminação com base na etnia e gênero. A discriminação indireta também é proibida. Resumidamente, discriminação indireta ocorre se uma prática é neutra à primeira vista, mas ainda leva à discriminação contra pessoas com uma determinada etnia (ou uma característica protegida).
Difícil de descobrir
Se uma loja online adaptar seus preços ao código postal do cliente, esta é considerada uma prática neutra. Contudo, se as pessoas que vivem nessa área, em sua maioria, são de origem imigrante, a prática pode implicar uma forma proibida de discriminação indireta. A lei de não discriminação, portanto, parece proteger as pessoas contra certas formas de diferenciação de preços.
“Mas a proteção contra a diferenciação de preços é limitada”, explica Zuiderveen Borgesius. Começar com, a discriminação algorítmica pode permanecer oculta. "Suponha que uma loja online cobra um preço mais alto em uma área onde a maioria dos residentes tem ascendência turca. É difícil para as pessoas desta área verem a diferença nos preços. É apenas quando esses preços são comparados aos preços de outra pessoa fora a área em que você pode ver a diferença. E mesmo que alguns consumidores descobrissem que pagaram mais do que outros, eles ainda não saberiam que as pessoas de origem turca pagam mais em geral. Portanto, os consumidores ainda não teriam conhecimento da discriminação indireta. Se os consumidores não percebem que estão sendo discriminados, eles não vão exercer o seu direito à não discriminação. "
Um segundo problema é que a proibição da discriminação indireta inclui uma exceção matizada, o que muitas vezes é difícil de aplicar em um caso específico. A discriminação indireta não é proibida se a empresa perseguir um objetivo legítimo e sua prática neutra constituir um meio razoável (proporcional).
"Se uma empresa tentasse obter lucro extra, um juiz provavelmente consideraria isso um objetivo legítimo ", diz Zuiderveen Borgesius. Mais complexa é a questão de saber se a diferenciação de preços é um meio razoável. Essa resposta depende de muitos fatores. Qual é a diferença de preço? Diz respeito a caviar ou outros produtos de luxo, ou produtos de supermercado que as pessoas usam diariamente? Essa regra matizada tem vantagens, mas a nuance vem às custas da clareza. Em suma, não existe uma regra rígida e rápida que dite claramente quais tipos de diferenciação de preços são permitidos e quais são proibidos.
Preferências do navegador e novos tipos de discriminação
Zuiderveen Borgesius:"Além disso, os algoritmos permitem que seja feita uma distinção entre os consumidores com base em um grande número de características. As leis europeias reconhecem a discriminação com base na etnia, Gênero sexual, e outras características semelhantes. Contudo, o navegador que você usa ou a área do código postal em que você mora não é uma característica protegida. Consequentemente, uma loja online pode fazer as pessoas pagarem mais quando usam um determinado navegador. A lei de não discriminação diz pouco sobre isso, desde que a prática não afete pessoas de determinada etnia ou outra característica protegida. "
Embora atualmente pareça quase não haver lojas online que usam algoritmos para determinar preços diferentes para consumidores diferentes, há uma grande chance de que isso mude no futuro. É em parte por essa razão que o ministro holandês Sander Dekker anunciou em uma carta à Câmara dos Representantes que os Ministérios do Interior e da Justiça e da Segurança estão investigando como a discriminação pode ser evitada na oferta de bens e serviços. Zuiderveen Borgesius:"É provável que seja necessária uma nova legislação para fornecer uma melhor proteção. Quando se trata da questão de como podemos proteger as pessoas dos efeitos discriminatórios dos algoritmos, são necessárias mais pesquisas e debates. "
