Com a proliferação de robôs femininos como Sophia e a popularidade de assistentes virtuais femininas como Siri (Apple), Alexa (Amazon), e Cortana (Microsoft), a inteligência artificial parece ter um problema de gênero.

Esse desequilíbrio de gênero na IA é uma tendência generalizada que atraiu duras críticas na mídia (até a Unesco alertou contra os perigos dessa prática) porque poderia reforçar estereótipos sobre as mulheres serem objetos.

Mas por que a feminilidade é injetada em objetos inteligentes artificiais? Se quisermos conter o uso massivo de gênero feminino na IA, precisamos entender melhor as raízes profundas desse fenômeno.

Tornando o desumano mais humano

Em artigo publicado na revista Psicologia e Marketing , argumentamos que a pesquisa sobre o que torna as pessoas humanas pode fornecer uma nova perspectiva sobre por que a feminização é sistematicamente usada na IA. Sugerimos que, se as mulheres tendem a ser mais objetivadas na IA do que os homens, não é apenas porque eles são vistos como o assistente perfeito, mas também porque as pessoas atribuem mais humanidade às mulheres (do que aos homens) em primeiro lugar.

Porque? Como as mulheres são percebidas como mais afetuosas e mais propensas a sentir emoções do que os homens, o gênero feminino de objetos de IA contribui para humanizá-los. Calor e experiência (mas não competência) são de fato vistos como qualidades fundamentais para ser um ser humano completo, mas carecem de máquinas.

Baseando-se em teorias de desumanização e objetificação, mostramos em cinco estudos com uma amostra total de mais de 3, 000 participantes que:

• As mulheres são percebidas como mais humanas do que os homens, em geral e em comparação com entidades não humanas (animais e máquinas).
• Os bots fêmeas são dotados de qualidades humanas mais positivas do que os bots machos, e eles são percebidos como mais humanos do que robôs machos, em comparação com animais e máquinas.
• A humanidade inferida de bots femininos aumenta a percepção de exclusividade do tratamento deles em um contexto de saúde, levando a atitudes mais favoráveis ​​em relação às soluções de IA.

Usamos várias medidas diferentes de humanidade percebida, em comparação com animais e máquinas. Por exemplo, para medir a humanidade flagrante de robôs femininos e masculinos em comparação com os animais, usamos a escala de humanização de ascensão baseada na ilustração clássica da "marcha do progresso". Pedimos explicitamente aos entrevistados on-line que indicassem como "evoluíram" eles percebiam que os bots femininos ou masculinos eram, usando uma progressão contínua de macacos antigos a humanos modernos.

Para medir a flagrante humanidade percebida de robôs femininos e masculinos em comparação com as máquinas, criamos uma escala que mede flagrante (des) humanização mecanicista, retratando a evolução do homem de robô para humano (em vez de macaco para humano). Claro, criamos uma versão feminina e uma versão masculina de cada uma dessas escalas.

Outras medidas captaram percepções mais sutis e implícitas da humanidade, perguntando aos entrevistados o nível de emoções que eles atribuíram aos robôs masculinos e femininos. Diz-se que algumas emoções distinguem os humanos das máquinas (por exemplo, "amigáveis, "" amante da diversão "), e outras emoções para distinguir os humanos dos animais (ou seja, "organizado, "" educado "). Finalmente, também usamos um teste de associação implícita para investigar se os bots femininos estão mais associados ao conceito de "humano" do que de "máquina" do que os bots masculinos.

O fantasma na maquina

Embora descobrimos que mulheres e robôs femininos são percebidos como mais humanos na maioria das medidas sutis e gritantes e implícitas de humanidade, também descobrimos que homens e robôs machos são percebidos como mais humanos nas dimensões negativas das medidas sutis de humanidade. Tomados em conjunto, esses resultados indicam que os robôs femininos não são apenas dotados de qualidades humanas mais positivas do que os robôs masculinos (sexismo benevolente), mas que também são percebidos como mais humanos e espera-se que sejam mais propensos a considerar nossas necessidades exclusivas em um contexto de serviço.

Essas descobertas podem apontar para uma nova explicação possível do motivo pelo qual os bots fêmeas são preferidos em relação aos machos, com pessoas preferindo máquinas inteligentes femininas porque tais máquinas estão mais fortemente associadas à humanidade.

Se a feminilidade é usada para humanizar entidades não humanas, esta pesquisa sugere que tratar mulheres como objetos em IA pode residir precisamente no reconhecimento de que não o são. A suposição popular, no entanto, frequentemente referida como a hipótese de desumanização, é que é necessário ver os membros do grupo externo como animais ou instrumentos antes de objetificá-los. Em outras palavras, a desumanização seria um pré-requisito para que a objetificação ocorresse, com alvos de objetificação tipicamente sendo negados sua humanidade. Ao contrário desta visão dominante, a transformação de mulheres em objetos na IA pode ocorrer não porque as mulheres são percebidas como subumanas, mas porque eles são percebidos como super-humanos em primeiro lugar.

Isso está de acordo com a afirmação de Martha C. Nussbaum:"Objetivação implica fazer em uma coisa ... algo que realmente não é uma coisa" (Nussbaum, 1995, p. 256–7). Também se encaixa na visão de Kate Manne sobre misoginia e desumanização:"Freqüentemente, não é um senso de humanidade das mulheres que está faltando. Sua humanidade é precisamente o problema "(Manne, 2018, p. 33). Portanto, o uso generalizado da identidade feminina em artefatos de IA pode estar enraizado no reconhecimento implícito de que as mulheres são percebidas como humanas, e mais do que os homens.

Objetificação das mulheres no mundo real?

Esta pesquisa se baseia no que torna as pessoas humanas em comparação com as máquinas para entender melhor as raízes profundas da generalização feminina da IA. Porque os sentimentos estão na própria substância de nossa humanidade, e porque as mulheres são percebidas como mais propensas a experimentar sentimentos, argumentamos que o gênero feminino de objetos de IA faz com que pareçam mais humanos e mais propensos a considerar nossas necessidades únicas. Contudo, esse processo de transformação das mulheres em objetos pode levar à objetificação das mulheres, ao transmitir a ideia de que as mulheres são objetos e ferramentas simples projetadas para atender às necessidades de seus donos. Isso pode potencialmente alimentar mais objetificação e desumanização das mulheres no mundo não digital.

Esta pesquisa destaca, portanto, o dilema ético enfrentado pelos designers e formuladores de políticas de IA:Diz-se que as mulheres são transformadas em objetos na IA, mas injetar a humanidade das mulheres em objetos de IA faz com que esses objetos pareçam mais humanos e aceitáveis.

Esses resultados não são particularmente encorajadores para o futuro da paridade de gênero na IA, nem para acabar com a objetificação das mulheres na IA. O desenvolvimento de vozes neutras em termos de gênero pode ser uma forma de se afastar da definição de gênero feminino da IA ​​e impedir a perpetuação desse sexismo benevolente. Outra solução, semelhante à experimentação recente do Google, seria impor uma voz de gênero padrão, atribuir aleatoriamente e com igual probabilidade um robô inteligente masculino ou feminino aos usuários.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.