O preconceito em inteligência artificial (IA) e programas de aprendizado de máquina está bem estabelecido. Pesquisadores da North Carolina State University e da Pennsylvania State University agora estão propondo que os desenvolvedores de software incorporem o conceito de "design thinking feminista" em seu processo de desenvolvimento como uma forma de melhorar a equidade - particularmente no desenvolvimento de software usado no processo de contratação.

"Parece haver inúmeras histórias de maneiras como o preconceito na IA se manifesta, e há muitas ideias por aí sobre o que contribui para esse viés, "diz Fay Payton, um professor de sistemas de informação / tecnologia e acadêmico universitário na NC State. "Nosso objetivo aqui era apresentar diretrizes que possam ser usadas para desenvolver soluções viáveis ​​para o preconceito de algoritmos contra as mulheres, Profissões afro-americanas e latino-americanas na força de trabalho de TI.

"Muitos algoritmos de contratação existentes incorporam marcadores de identidade de fato que excluem candidatos qualificados devido ao seu gênero, raça, etnia, idade e assim por diante, "diz Payton, que é co-autor principal de um artigo sobre a obra. "Estamos simplesmente procurando por equidade - que os candidatos possam participar do processo de contratação em pé de igualdade."

Payton e seus colaboradores argumentam que uma abordagem chamada pensamento de design feminista pode servir como uma estrutura valiosa para o desenvolvimento de software que reduz o viés algorítmico de uma forma significativa. Nesse contexto, a aplicação do pensamento de design feminista significaria incorporar a ideia de equidade no design do próprio algoritmo.

"Combinando os efeitos do viés algorítmico está a sub-representação histórica das mulheres, Os engenheiros de software Black e Latinx fornecem novos insights sobre abordagens de design equitativas com base em suas experiências vividas, "diz Lynette Yarger, co-autor principal do artigo e professor associado de ciências da informação e tecnologia na Penn State.

"Essencialmente, esta abordagem significaria desenvolver algoritmos que valorizam a inclusão e a equidade entre os sexos, raça e etnia, "Payton diz." A aplicação prática disso é o desenvolvimento e implementação de um processo para a criação de algoritmos em que designers estão considerando um público que inclui mulheres, que inclui negros, isso inclui pessoas do Latinx. Essencialmente, desenvolvedores de todas as origens seriam chamados a considerar ativamente - e valorizar - as pessoas que são diferentes deles.

"Para ser claro, não se trata apenas de fazer algo porque é moralmente correto. Mas sabemos que as mulheres, Afro-americanos e latino-americanos estão sub-representados nas áreas de TI. E há ampla evidência de que uma a força de trabalho inclusiva melhora os resultados financeiros de uma empresa, "Payton diz." Se você pode fazer a coisa certa e melhorar sua margem de lucro, por que não você? "