Você consegue imaginar um mundo sem listas de reprodução personalizadas do Spotify, feeds de mídia social com curadoria, ou vídeos recomendados de gatos nas barras laterais do YouTube? Essas conveniências modernas, que foram possíveis graças à inteligência artificial (IA), também apresentam uma proposição assustadora - que as máquinas podem acabar sabendo mais sobre nós do que nós mesmos.

De acordo com a pesquisa da Agenda CIO 2019 da Gartner, 37 por cento dos diretores de informação (CIOs) em todo o mundo já implantaram a tecnologia de IA em suas organizações. A rápida adoção de soluções de IA focaliza a forma como os dados - que podem consistir em dados confidenciais, informações confidenciais e pessoais - estão sendo gerenciadas e usadas por organizações.

Falando no painel da conferência sobre 'IA e proteção de dados:novas abordagens regulatórias', O professor associado Warren Chik da Singapore Management University (SMU) apresentou sua perspectiva sobre como conceituar a confiança na era digital. "Quando se trata de questões como dados pessoais, não tratamos IA como deus. Portanto, não podemos confiar na fé, que é o que a religião exige. Precisamos de algo mais substancial do que isso, " ele disse.

Em sua palestra intitulada 'Inteligência Artificial e Proteção de Dados em Cingapura:Confiança dos Consumidores, Segurança Organizacional e Regulamentação Governamental ', O professor Chik explicou que, para gerar confiança em uma solução digital, é crucial que os usuários estejam engajados nas questões envolvidas. "As pessoas tendem a temer o desconhecido, e é difícil confiar em algo que você não conhece. "

Moderado pelo Professor David Llewelyn, Vice-Reitor da Escola de Direito da SMU, a mesa redonda contou com os palestrantes Professor Ian Walden, Centro de Estudos de Direito Comercial, Queen Mary University de Londres; Professor Associado Yip Man (cujo artigo foi apresentado pelo Professor Associado Alvin See em seu nome); bem como os comentaristas Sr. KK Lim, Chefe de Cibersegurança, Privacidade e proteção de dados, Eversheds Harry Elias; e Sr. Lanx Goh, Consultor jurídico sênior (privacidade e segurança cibernética) e diretor global de proteção de dados, Tecnologia de viagens Klook.

IA como um influenciador

A capacidade de um sistema de IA de conduzir perfis pessoais pode mudar fundamentalmente a personalidade digital de um usuário, disse o professor Chik, destacando uma causa de preocupação para muitos.

"Embora uma IA tenha informações específicas, como seu nome e endereço, também forma seu próprio conhecimento de sua identidade, e quem você é como pessoa, "Professor Chik disse, citando algoritmos usados ​​por feeds de mídia social para coletar dados sobre a identidade de alguém, interesses e hábitos de surf. A partir desses dados, o sistema então cria um perfil de quem eles pensam que você é.

"Esses algoritmos - que podem estar certos ou errados - fornecem informações para você, artigos e links, e, como resultado, produz um efeito em seu pensamento. Em outras palavras, A IA pode moldar o comportamento humano, e este é um risco que deixa muitas pessoas desconfortáveis, "Professor Chik disse. A ameaça é muito real, ele enfatizou, observando que os reguladores identificaram claramente a necessidade de regulamentar o uso de dados em IA.

Em Singapura, por exemplo, a Lei de Proteção contra Falsidades e Manipulação Online (POFMA) traz disposições criminais sobre a criação, uso e alteração de bots para espalhar informações falsas.

Legislação de proteção de dados:um ato de equilíbrio

Na tentativa de regular os dados, há sempre dois objetivos concorrentes ao regulamentar o uso, recolha e tratamento de dados pessoais. "O primeiro objetivo é proteger o titular dos dados, e a segunda é promover a inovação, "disse o Professor See, que apresentou o artigo do Professor Yip em seu nome.

Dos diferentes tipos de proteção para titulares de dados que existem hoje, a opção mais comumente disponível é o uso de contratos. O artigo do professor Yip aponta que "[o] problema em tentar regular o uso de dados por meio de termos e condições é que, na maioria dos casos, as pessoas não lêem [as letras miúdas legais] ". Portanto, o consentimento dado não é genuíno.

Professor Llewelyn, quem moderou a mesa redonda, acrescentou que o significado do consentimento é uma questão que precisa ser explorada com maior profundidade. "Se um consumidor aceitasse um contrato online integralmente sem lê-lo, pode ser dito de forma realista que ele ou ela concordou com todos os termos e condições, e com total consentimento? ", perguntou ele." Talvez devesse haver um reconhecimento legal dado à natureza automática do compromisso feito em tais contratos. "

Uma limitação mais crítica do contrato como proteção para o titular dos dados, é que o contrato rege apenas as informações que são compartilhadas entre as duas partes vinculadas pelo contrato. Por exemplo, se o Facebook transferisse os dados pessoais de um usuário para um terceiro não vinculado ao contrato, a empresa terceirizada não será obrigada a proteger as informações do usuário.

Proteção de dados desde o projeto

Lei de Proteção de Dados Pessoais de Cingapura (PDPA), que regula os dados pessoais por meio do uso da legislação, é descrito como um regime de toque leve que adota uma abordagem fortemente equilibrada entre a necessidade de proteção da privacidade e o interesse da inovação empresarial.

O artigo do professor Yip reconhece que existe algum nível de tensão entre os dois objetivos mencionados acima. O problema em questão, Portanto, é como encontrar um equilíbrio entre direitos individuais e privacidade, e o interesse competitivo de crescimento econômico e inovação, ela notou.

No fim do dia, o foco está na prevenção, em vez de tentar remediar uma violação de privacidade de dados. “Trata-se de reconhecer os direitos do indivíduo e a privacidade de seus dados, e ao mesmo tempo, a necessidade de as organizações coletarem, usar e divulgar dados pessoais para fins legítimos e razoáveis, "O artigo do professor Yip acrescentou.

Outra solução que a professora Yip explorou em seu artigo foi o uso da tecnologia em vez da lei para proteger os titulares dos dados. Em alguns casos, a privacidade pode ser diretamente incorporada ao projeto e operação dos sistemas operacionais, processos de trabalho, infraestrutura de rede e até espaços físicos. Ela, no entanto, destaca que essa solução não é perfeita porque vai contra o interesse das empresas que aproveitam os dados para obter lucros para criar proteções de privacidade robustas em seus sistemas e modelos de negócios.