A sociedade está prestando mais atenção do que nunca à questão do preconceito nos sistemas de inteligência artificial, e particularmente aqueles usados ​​para reconhecer e analisar imagens de rostos. Na IBM, estamos tomando as seguintes ações para garantir que a tecnologia de reconhecimento facial seja desenvolvida e treinada com responsabilidade:

(1) Um dos maiores problemas que causam preconceito na área de análise facial é a falta de diversos dados para treinar sistemas. Então, esta queda, disponibilizaremos publicamente o seguinte como uma ferramenta para a indústria de tecnologia e comunidade de pesquisa:

1. Um conjunto de dados de treinamento de identidade e atributo facial de mais de 1 milhão de imagens para melhorar o treinamento do sistema de análise facial desenvolvido por cientistas da IBM Research. É anotado com atributos e identidade, aproveitando geo-tags de imagens do Flickr para equilibrar dados de vários países e ferramentas de aprendizagem ativa para reduzir o viés de seleção de amostra. Atualmente, o maior conjunto de dados de atributos faciais disponível é 200, 000 imagens, portanto, este novo conjunto de dados com um milhão de imagens será uma melhoria monumental. Adicionalmente, os conjuntos de dados disponíveis hoje incluem apenas atributos (cor do cabelo, pelos faciais, etc) ou identidade (identificando que 5 imagens são da mesma pessoa), mas não ambos. Este novo conjunto de dados muda isso para criar uma única capacidade de combinar atributos a um indivíduo.
2. Um conjunto de dados que inclui 36, 000 imagens faciais - igualmente distribuídas por todas as etnias, gêneros, e idades para fornecer um conjunto de dados mais diversificado para as pessoas usarem na avaliação de suas tecnologias. Isso ajudará especificamente os designers de algoritmos a identificar e abordar o viés em seus sistemas de análise facial. A primeira etapa para lidar com o viés é saber que existe um viés - e é isso que este conjunto de dados permitirá.

(2) No início deste ano, aumentamos substancialmente a precisão de nosso serviço de reconhecimento visual Watson para análise facial, que demonstrou uma diminuição de quase dez vezes na taxa de erro para análise facial. E, continuamos a promover melhorias contínuas. Um workshop técnico está sendo realizado (pela IBM Research em colaboração com a University of Maryland) para identificar e reduzir o preconceito na análise facial em 14 de setembro, 2018 em conjunto com ECCV 2018. Os resultados da competição usando o conjunto de dados de imagens faciais da IBM serão anunciados no workshop. Além disso, nossos pesquisadores continuam a trabalhar com uma ampla gama de partes interessadas, usuários e especialistas para entender outras tendências e vulnerabilidades que podem afetar a tomada de decisões de IA, para que possamos continuar a melhorar nossos sistemas. "

A IA detém um poder significativo para melhorar a forma como vivemos e trabalhamos, mas apenas se os sistemas de IA forem desenvolvidos e treinados de forma responsável, e produzir resultados nos quais confiamos. Certificando-se de que o sistema é treinado em dados balanceados, e livrar-se de preconceitos é fundamental para alcançar essa confiança.

À medida que a adoção de IA aumenta, a questão de evitar que o preconceito entre em sistemas de IA está ganhando destaque. Acreditamos que nenhuma tecnologia - não importa o quão precisa - pode ou deve substituir o julgamento humano, intuição e experiência. O poder das inovações avançadas, como AI, reside em sua capacidade de aumentar, não substituir, tomada de decisão humana. Portanto, é fundamental que qualquer organização que use IA - incluindo recursos de reconhecimento visual ou análise de vídeo - treine as equipes que trabalham com ela para entender o preconceito, incluindo preconceito implícito e inconsciente, monitorar para isso, e saber como lidar com isso.

Como uma empresa que lidera a promoção da diversidade e inclusão no mundo corporativo, discriminação de qualquer tipo é contra os valores da IBM. Estamos profundamente comprometidos em garantir que as tecnologias de IA sejam desenvolvidas sem preconceitos.

Por mais de um século, A IBM introduziu tecnologias revolucionárias de forma responsável no mundo. Estamos empenhados em fornecer serviços de IA construídos com responsabilidade, são imparciais e explicáveis. Nosso negócio tem sido orientado por um conjunto de Princípios de Confiança e Transparência, o que inclui nossa firme convicção de que as empresas que promovem a IA têm a responsabilidade de abordar a questão do preconceito de frente. E estamos trabalhando continuamente para avaliar e atualizar nossos serviços, promovendo-os de uma forma confiável e inclusiva.