Mustafa adora um bom café. Em seu tempo livre, ele costuma procurar máquinas de café de última geração que não pode comprar no momento, mas está economizando para comprar. Um dia, viajar para o casamento de um amigo no exterior, ele consegue se sentar ao lado de outro amigo no avião. Quando Mustafá reclama sobre quanto pagou pela passagem, Acontece que seu amigo pagou menos da metade do que ele pagou, mesmo que eles tenham reservado na mesma época.

Ele examina as possíveis razões para isso e conclui que deve estar relacionado à sua procura em máquinas e equipamentos de café caros. Ele está muito zangado com isso e reclama com a companhia aérea, que lhe enviam um pedido de desculpas morno que se refere a modelos de preços personalizados. Mustafa acha que isso é injusto, mas não o questiona. Perseguir isso custaria a ele tempo e dinheiro.

Esta história, que é hipotética, mas pode ocorrer e ocorre - demonstra o potencial para as pessoas serem prejudicadas pelo uso de dados na atual era do "big data". A análise de big data envolve o uso de grandes quantidades de dados de muitas fontes que são vinculadas e analisadas para encontrar padrões que ajudam a prever o comportamento humano. Tal análise, mesmo quando perfeitamente legal, pode prejudicar as pessoas.

Mustafa, por exemplo, provavelmente foi afetado por práticas de preços personalizados, por meio das quais sua busca por máquinas de café de última geração foi usada para fazer certas suposições sobre sua disposição de pagar ou poder de compra. Isso, por sua vez, pode ter levado a sua passagem aérea mais cara. Embora isso não tenha resultado em danos graves no caso de Mustafá, casos de graves danos emocionais e financeiros são, Infelizmente, não raro, incluindo a negação de hipotecas para indivíduos e riscos para a qualidade de crédito geral de uma pessoa com base em associações com outros indivíduos. Isso pode acontecer se um indivíduo compartilhar algumas características semelhantes a outros indivíduos que têm históricos de reembolso insatisfatórios.

Ocorrências de danos emocionais também podem ocorrer. Imagine um casal que descobre que está esperando um filho muito desejado, mas sofreu um aborto espontâneo aos cinco meses. O casal pode descobrir que continua recebendo anúncios de lojas especializadas em produtos infantis meses depois, celebrando o que deveria ter sido "marcos" chave, causando angústia. Este é outro cenário hipotético, mas inteiramente possível.

A lei - ou a falta dela

Em muitos desses casos, porque a prática prejudicial pode não ter infringido nenhuma lei, aqueles que foram prejudicados pelo uso de dados têm opções legais limitadas ou nenhuma. O que aconteceu com Mustafa, por exemplo, era perfeitamente legal, visto que não existem leis atuais que proíbam preços personalizados como tal. Nossos sistemas jurídicos atuais não protegem adequadamente as pessoas dos danos decorrentes do big data.

Isso ocorre porque é muito difícil rastrear como nossos dados são vinculados e usados. Mesmo se a companhia aérea tivesse feito algo ilegal, como leis de proteção de dados violadas, seria quase impossível para Mustafa descobrir. Pessoas que sentem que foram prejudicadas pelo uso de dados podem ter dificuldade para mostrar como seus dados foram usados ​​para causar esse dano, quais dados estavam envolvidos ou qual controlador de dados os utilizou. E, portanto, podem não ter as provas de que precisam para obter um recurso legal.

Além disso, mesmo que mostrem como algo que alguém fez com seus dados os prejudicou, aquele uso específico das informações do cliente, para ajustar os preços, por exemplo, pode não ser ilegal.

Igualmente, o dano pode ser causado não pelos próprios dados, mas pelo uso de dados de outras pessoas (dados de terceiros). Por exemplo, no caso de Mustafa, pode ser que outros indivíduos que também estivessem interessados ​​em máquinas de café caras tivessem rendimentos muito altos, ou comprou itens caros. Isso pode ter sido usado para sugerir que Mustafá também se enquadrava nesta categoria, o que pode ter resultado em preços mais altos para ele para outros produtos. Um indivíduo prejudicado pelo uso de dados de terceiros muitas vezes não terá soluções de acordo com as leis de proteção de dados atuais.

Um novo sistema

Para ajudar a resolver esses problemas, argumentamos que precisamos aceitar que alguns riscos do uso de dados não são evitáveis. Em vez de se concentrar apenas em tentar minimizar ou evitar tais riscos, também precisamos encontrar maneiras de apoiar melhor as pessoas que sofrem danos com o uso de dados, por exemplo, monitorando ativamente e respondendo aos danos causados ​​pelo uso de dados, incluindo usos legais de dados.

Achamos que, como parte deste sistema, deve ser criado um novo tipo de instituição. Nós os chamamos de órgãos de mitigação de danos. Estes seriam configurados em nível nacional, e pessoas que se sentiram prejudicadas pelo uso de dados, mas não se qualificou para recursos legais, poderia ir até eles para relatar os danos que eles acham que resultaram do uso de dados. Ao contrário dos remédios tradicionais, os órgãos de mitigação de danos poderiam fornecer apoio mesmo nos casos em que nenhuma lei foi violada. Eles seriam fáceis para as pessoas usarem, e flexível, para que possam apoiar as pessoas onde e como mais precisam, dando aos indivíduos mais poder e fortalecendo a responsabilidade coletiva pelo uso dos dados.

Esses organismos propostos coletariam informações sobre os tipos de danos que ocorrem:atualmente, não há organismos nacionais ou internacionais que coletem informações sobre danos de dados de forma sistemática. Eles também forneceriam informações aos formuladores de políticas e usuários de dados para ajudar a melhorar a maneira como as coisas são feitas. E nos casos em que as pessoas sofrem prejuízos financeiros, mas não têm acesso a ajuda jurídica, eles também podem fornecer suporte financeiro.

A análise de big data é acertadamente elogiada pelas muitas novas oportunidades que oferece. Mas será inevitável que algumas pessoas sejam prejudicadas. Como sociedade, precisamos enfrentar esta verdade, e prestar melhor assistência àqueles que sofrem danos, de modo que ninguém que arcar com os custos dessas novas práticas seja deixado sozinho.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.