p Nosso relacionamento com empresas de tecnologia mudou significativamente nos últimos 18 meses. Violações de dados em andamento, e as revelações em torno do escândalo Cambridge Analytica, levantaram preocupações sobre quem é o proprietário de nossos dados, e como está sendo usado e compartilhado. p As empresas de tecnologia prometeram fazer melhor. Após ser interrogado pelo Congresso dos EUA e pelo Parlamento da UE, CEO do Facebook, Mark Zuckerberg, disse que o Facebook mudará a maneira como compartilha dados com fornecedores terceirizados. Existem algumas evidências de que isso está ocorrendo, particularmente com anunciantes.

p Mas as empresas de tecnologia realmente mudaram seus métodos? Afinal, os dados são agora um ativo principal na economia moderna.

p Para descobrir se houve um realinhamento significativo entre as expectativas da comunidade e o comportamento corporativo, analisamos os princípios e iniciativas de ética de dados que várias organizações globais se comprometeram desde que os vários escândalos estouraram.

p O que descobrimos é preocupante. Algumas das maiores organizações não alteraram comprovadamente as práticas, em vez disso, inscrevendo-se em iniciativas éticas que não são cumpridas nem executáveis.

p Como rastreamos essas informações

p Antes de discutir nossas descobertas, alguns pontos de esclarecimento.

p Em primeiro lugar, as questões de dados, inteligência artificial (IA), aprendizado de máquina e algoritmos são difíceis de separar, e seu escopo é contestado. Na verdade, para a maioria dessas organizações, os conceitos são agrupados, enquanto para pesquisadores e formuladores de políticas, eles apresentam desafios distintos.

p Por exemplo, aprendizado de máquina, enquanto um ramo da IA, é construir máquinas para aprender por conta própria, sem supervisão. Como tal, os formuladores de políticas devem garantir que os algoritmos de aprendizado de máquina sejam livres de preconceitos e levem em consideração várias questões sociais e econômicas, em vez de tratar todos da mesma forma.

p Em segundo lugar, as políticas, as declarações e diretrizes das empresas que examinamos não estão centralmente localizadas, apresentado de forma consistente ou simples de decifrar.

p Contabilizando a falta de uma abordagem consistente para a ética de dados adotada por empresas de tecnologia, nosso método era examinar as etapas visíveis realizadas, e examinar os amplos princípios éticos adotados.

p Cinco categorias amplas de ética de dados

p Algumas empresas, como a Microsoft, IBM, e Google, publicaram seus próprios princípios éticos de IA.

p Mais empresas, incluindo Facebook e Amazon, optaram por manter uma abordagem isenta de interesses ao ingressar em consórcios, como a Partnership on AI (PAI) e o Information and Technology Industry Council (ITI). Esses dois consórcios publicaram declarações contendo princípios éticos. Os princípios são voluntários, e não tem requisitos de relatórios, padrões objetivos ou supervisão.

p Examinamos o conteúdo das diretrizes éticas publicadas dessas empresas e consórcios, e descobriu que os princípios se enquadram em cinco categorias amplas.

1. Privacidade :a privacidade é amplamente reconhecida como uma área de importância, destacando que o foco para a maioria dessas organizações é o relacionamento tradicional consumidor / fornecedor. Isso é, os dados fornecidos pelos consumidores agora são propriedade da empresa, quem vai usar esses dados, mas respeite a confidencialidade
2. governança :esses princípios são sobre responsabilidade no gerenciamento de dados, garantindo a qualidade e precisão dos dados, e a aplicação ética de algoritmos. O foco aqui está nos processos internos que devem ser seguidos
3. justiça :justiça significa usar dados e algoritmos de uma forma que respeite a pessoa por trás dos dados. Isso significa levar a segurança em consideração, e reconhecer o impacto que o uso de dados pode ter na vida das pessoas. Isso inclui o reconhecimento de como algoritmos que dependem de dados históricos ou programação falha podem discriminar comunidades marginalizadas
4. benefício compartilhado :refere-se à ideia de que os dados são propriedade daqueles que os produzem e, Como tal, deve haver controle conjunto dos dados, bem como benefícios compartilhados. Notamos falta de consenso ou intenção de aderir a esta categoria
5. transparência :é aqui que começa a surgir uma compreensão mais matizada da propriedade dos dados. Transparência se refere essencialmente a ser aberto sobre a forma como os dados são coletados e usados, bem como evitar a coleta de dados desnecessária. Dado o imperativo comercial das empresas de proteger a pesquisa e o desenvolvimento confidenciais, não é surpreendente que esse princípio seja reconhecido apenas por um punhado de jogadores.

p Justiça e transparência são importantes

p Nossa pesquisa sugere que as conversas sobre ética de dados são amplamente focadas em privacidade e governança. Mas esses princípios são o mínimo esperado em uma estrutura legal. Se alguma coisa, os escândalos do passado nos mostraram que isso não é suficiente.

p O Facebook é notável como uma empresa que mantém uma abordagem ética à distância. É membro da Partnership on AI e Information and Technology Industry Council, mas evitou a publicação de seus próprios princípios de ética de dados. E embora tenha havido rumores sobre o chamado detector de preconceito de aprendizado de máquina "Fluxo de justiça", e rumores de uma equipe de ética no Facebook, os detalhes de qualquer um desses desenvolvimentos são vagos.

p Enquanto isso, até que ponto a parceria em IA e o Conselho da Indústria de Informação e Tecnologia influenciam o comportamento das empresas membros é altamente questionável. A parceria em IA, que tem mais de 70 membros, foi formado em 2016, mas ainda não demonstrou quaisquer resultados tangíveis além da publicação de princípios-chave.

p Melhor regulamentação é necessária

p Para empresas de tecnologia, pode haver uma compensação entre tratar os dados de forma ética e quanto dinheiro eles podem ganhar com esses dados. Também há uma falta de consenso entre as empresas sobre como seria a abordagem ética correta. Então, a fim de proteger o público, orientação externa e supervisão são necessárias.

p Infelizmente, o governo atualmente manteve seu foco na nova Legislação de Compartilhamento e Liberação de Dados do Governo Australiano sobre privacidade - um princípio que é coberto por legislação em outros lugares.

p Os eventos relacionados com dados dos últimos anos confirmaram que precisamos de um maior enfoque nos dados como um direito do cidadão, não apenas um direito do consumidor. Como tal, precisamos de um maior foco na justiça, transparência e benefício compartilhado - todas as áreas atualmente negligenciadas pelas empresas e pelo governo. p Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.