p A opressiva 'brancura' da inteligência artificial - de imagens e robôs cinematográficos aos dialetos de assistentes virtuais - afasta as pessoas de cor da maneira como a humanidade pensa sobre seu futuro aprimorado pela tecnologia. p Isso é de acordo com especialistas da Universidade de Cambridge, que sugerem que as representações e estereótipos atuais sobre IA correm o risco de criar uma força de trabalho "racialmente homogênea" de aspirantes a tecnólogos, construir máquinas com preconceito embutido em seus algoritmos.

p Eles argumentam que as representações culturais da IA ​​como branco precisam ser desafiadas, pois não oferecem um futuro "pós-racial", mas sim um futuro do qual as pessoas de cor são simplesmente apagadas.

p Os pesquisadores, do Centro Leverhulme de Cambridge para o Futuro da Inteligência (CFI), diga que AI, como outros tropos de ficção científica, sempre refletiu o pensamento racial em nossa sociedade.

p Eles argumentam que existe uma longa tradição de estereótipos raciais grosseiros quando se trata de extraterrestres - desde o estrangeiro "orientalizado" de Ming, o Impiedoso, à caricatura caribenha de Jar Jar Binks.

p Mas a inteligência artificial é retratada como branca porque, ao contrário de espécies de outros planetas, AI tem atributos usados ​​para "justificar o colonialismo e a segregação" no passado:inteligência superior, profissionalismo e poder.

p "Dado que a sociedade tem, durante séculos, promoveu a associação de inteligência com europeus brancos, é de se esperar que, quando essa cultura é solicitada a imaginar uma máquina inteligente, ela imagine uma máquina branca, "disse o Dr. Kanta Dihal, que lidera a iniciativa 'Decolonising AI' do CFI.

p "As pessoas confiam na IA para tomar decisões. As representações culturais promovem a ideia de que a IA é menos falível do que os humanos. Nos casos em que esses sistemas são racializados como brancos, isso pode ter consequências perigosas para os humanos que não são, " ela disse.

p Junto com seu colega Dr. Stephen Cave, Dihal é o autor de um novo artigo sobre o caso de descolonização de IA, publicado hoje no jornal Filosofia e Tecnologia .

p O artigo reúne pesquisas recentes de uma variedade de campos, incluindo interação humano-computador e teoria crítica da raça, para demonstrar que as máquinas podem ser racializadas, e que isso perpetua os preconceitos raciais do "mundo real".

p Isso inclui o trabalho sobre como os robôs são vistos como tendo identidades raciais distintas, com robôs negros recebendo mais abuso online, e um estudo que mostra que as pessoas se sentem mais próximas de agentes virtuais quando percebem uma identidade racial compartilhada.

p "Uma das interações mais comuns com a tecnologia de IA é por meio de assistentes virtuais em dispositivos como smartphones, que falam em inglês branco de classe média padrão, "disse Dihal." As idéias de adicionar dialetos negros foram rejeitadas como muito controversas ou fora do mercado-alvo. "

p Os pesquisadores conduziram sua própria investigação em mecanismos de pesquisa, e descobriram que todos os resultados não abstratos para IA tinham características caucasianas ou eram literalmente da cor branca.

p Um exemplo típico de imagens de IA adornando capas de livros e artigos da mídia tradicional é Sophia:o humanóide hipercaucaso declarado um "campeão da inovação" pelo programa de desenvolvimento da ONU. Mas esta é apenas uma iteração recente, dizem os pesquisadores.

p "Imagens de estoque de IA destilam as visualizações de máquinas inteligentes na cultura popular ocidental à medida que se desenvolvem ao longo de décadas, "disse Cave, Diretor Executivo do CFI.

p "Do Terminator ao Blade Runner, Metropolis para Ex Machina, todos são interpretados por atores brancos ou são visivelmente brancos na tela. Androids de metal ou plástico recebem recursos brancos, como em eu, Robô. Mesmo IA desencarnada - de HAL-9000 a Samantha in Her - tem vozes brancas. Só muito recentemente tenho alguns programas de TV, como Westworld, usou personagens de IA com uma mistura de tons de pele. "

p Cave e Dihal apontam que até mesmo funciona claramente com base na rebelião de escravos, como Blade Runner, retratam seus AIs como brancos. "A IA é frequentemente retratada como superando e superando a humanidade, "disse Dihal." A cultura branca não pode se imaginar sendo dominada por seres superiores semelhantes a raças que historicamente enquadrou como inferiores. "

p "Imagens de IA não são representações genéricas de máquinas semelhantes a humanos:sua brancura é um proxy de seu status e potencial, "acrescentou Dihal.

p "Retratos da IA ​​como branco situam as máquinas em uma hierarquia de poder acima dos grupos atualmente marginalizados, e relega as pessoas de cor a posições inferiores às das máquinas. À medida que as máquinas se tornam cada vez mais centrais para a tomada de decisão automatizada em áreas como emprego e justiça criminal, isso pode ter grandes consequências. "

p "A brancura percebida da IA ​​tornará mais difícil para as pessoas de cor avançar no campo. Se a demografia do desenvolvedor não diversificar, A IA exacerba a desigualdade racial, "Dihal disse.