p Qualquer pessoa que usa compras online, a mídia social ou mesmo o e-mail está voluntariamente - embora não necessariamente de forma consciente - experimentando a influência de tecnologias personalizadas. O "perfil" que leva a anúncios de certos produtos que o perseguem pela web pode ser um incômodo. Mas as notícias recentes sobre a Cambridge Analytica buscando dados pessoais do Facebook levantam preocupações mais profundas sobre a autonomia das pessoas, e a segurança dos processos democráticos. p A personalização molda as experiências políticas das pessoas, comércio, vida pessoal e social. É um poderoso, princípio tecnologicamente habilitado, que coleta informações sobre nossas escolhas e preferências para adaptar nosso envolvimento com os objetos, instituições, serviços e uns aos outros.

p Claro, isso pode nos ajudar a tomar decisões em nossas tarefas diárias mais rapidamente - para nos ajudar a ser mais "nós mesmos". A personalização muitas vezes parece empoderar os indivíduos; para ajudá-los a se sentirem competentes, no controle e confiante nos gostos e opiniões que nos distinguem dos outros.

p Mas muitas vezes, há uma "vantagem dupla" na personalização, que não é reconhecido pelos usuários - até que eles sejam confrontados com seus efeitos. A personalização levantou questões sobre privacidade, responsabilidade pessoal e consentimento; desestabilizou as relações de poder entre designers, fabricantes e consumidores; e perturbou o discurso entre os partidos políticos e os cidadãos. Também tem o potencial de comprometer a compreensão do que significa ser uma pessoa, e um agente moral.

p No controle, ou sob controle?

p Hoje, os encontros com a personalização começam desde o nascimento. Bonecos inteligentes como Pacif-i usam tecnologia Bluetooth para monitorar a temperatura de uma criança, e registrar quando um pai administrou a medicação pela última vez, junto com a dosagem. Esses dados são enviados para os telefones dos pais, e pode ser compartilhado com médicos. Mais tarde na vida, intervenções médicas personalizadas podem usar análise genética para otimizar tratamentos, prever resultados futuros de saúde e a probabilidade de doenças futuras.

p Ter essas informações pode parecer uma coisa boa:o Pacifi-i dá aos pais a capacidade de ficar de olho na saúde de seus filhos, enquanto a medicina personalizada dá aos usuários a chance de ajustar seus hábitos para minimizar o aparecimento de uma doença. Mas essas intervenções personalizadas podem não ser tão bem-vindas se as pessoas em questão forem impedidas de obter seguro saúde, porque esses dados detalhados foram divulgados a uma seguradora.

p Da mesma forma, o orçamento de saúde pessoal do NHS oferece uma abordagem personalizada para o cuidado social, alocando opções de gastos aos pacientes. Controlar seu próprio cuidado pode ajudar as pessoas a se sentirem fortalecidas. Mas a pesquisa de nosso livro sobre personalização mostra que esse benefício pode ser distribuído de forma desigual por classe e educação, e que a necessidade de escolher e gerenciar o tratamento pode representar um fardo maior para os pacientes e suas famílias.

p O efeito de câmara de eco nas mídias sociais pode prejudicar o discurso político por meio de solicitações personalizadas, que nos ligam apenas a "pessoas como nós". A experiência auto-afirmativa de gostar de algo no Facebook estimula nosso sentimento de pertencer e ser incluído. Mas, ao mesmo tempo, O Facebook - e, de fato, as empresas que coletam dados do Facebook - também podem prever características de identificação que optamos por não divulgar.

p Inovações em tecnologia de produção, como impressão 3-D, oferecem aos consumidores uma combinação de ajuste físico e personalidade. Alguns produtores até dão aos amputados a chance de escolher o acabamento final de suas próteses. Hoje em dia, você não pode apenas personalizar roupas usando plataformas de design aberto, mas também "emprestar" a personalidade de outra pessoa, por exemplo, personalizando a camiseta de um jogador de futebol famoso. Mas essa customização em massa desestabiliza a relação entre produtores e consumidores, tornando mais difícil para os fabricantes planejarem aumentos na demanda e nas vendas.

p Personalização para o povo

p Com os mais recentes assistentes digitais e plataformas geniais, como o Siri da Apple, Google Assistant e Amazon Echo, podemos controlar dispositivos com aquela característica mais pessoal - nossa voz. No entanto, esses agentes pessoais virtuais têm suas próprias vozes, também, e existe o perigo de que tais sistemas possam acabar com muito poder para personalizar o que eles nos oferecem.

p Isso limitaria as opções dos usuários - em vez de expandi-las. Mas mais importante, se uma máquina se parece muito com uma pessoa - se é muito sociável - então há o perigo de podermos pensar nela como um agente capaz de tomar decisões independentes, quando na verdade são apenas ferramentas para cumprir nossas próprias agendas.

p Nas últimas semanas, várias empresas decidiram atualizar suas políticas de privacidade e compartilhamento de dados para torná-las mais simples para que seus usuários entendam ou encontrem uma opção de exclusão. Mas esses documentos permanecem longos e complexos, e nem todos serão capazes de entendê-los. O fato de o Comissário de Informação do Reino Unido não ter conseguido acessar os arquivos do Cambridge Analytica antes do Facebook mostra que os gigantes da mídia social têm vantagem, sobre como nossos dados pessoais são tratados.

p O Facebook acaba de transferir 1,5 bilhão de usuários de sua sede internacional na Irlanda para a Califórnia para evitar multas de até 4% de seu faturamento global, se violar as novas regras de proteção de dados que entrarão em vigor na Europa em 25 de maio, 2018. Claramente, não estamos todos juntos nisso ainda. O público não sabe como os dados são manipulados para influenciar nossas escolhas, atitudes e comportamentos. Para que a personalização seja um benefício - e não uma maldição - os usuários devem ter uma voz mais forte, para influenciar a maneira como seus dados pessoais são compartilhados. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.