Mostrar preconceito para com os outros não requer um alto nível de habilidade cognitiva e pode ser facilmente exibido por máquinas artificialmente inteligentes, sugeriu uma nova pesquisa.

Especialistas em ciência da computação e psicologia da Cardiff University e do MIT mostraram que grupos de máquinas autônomas podem demonstrar preconceito simplesmente identificando, copiar e aprender esse comportamento um do outro.

Pode parecer que o preconceito é um fenômeno humano específico que requer cognição humana para formar uma opinião, ou estereotipar, uma certa pessoa ou grupo.

Embora alguns tipos de algoritmos de computador já tenham demonstrado preconceito, como racismo e sexismo, com base na aprendizagem de registros públicos e outros dados gerados por humanos, este novo trabalho demonstra a possibilidade da IA ​​desenvolver grupos preconceituosos por conta própria.

As novas descobertas, que foram publicados no jornal Relatórios Científicos , são baseados em simulações de computador de como indivíduos igualmente preconceituosos, ou agentes virtuais, podem formar um grupo e interagir uns com os outros.

Em um jogo de dar e receber, cada indivíduo toma a decisão de doar para alguém dentro de seu próprio grupo ou em um grupo diferente, com base na reputação de um indivíduo, bem como em sua própria estratégia de doação, o que inclui seus níveis de preconceito em relação a estranhos.

Conforme o jogo se desenrola e um supercomputador monta milhares de simulações, cada indivíduo começa a aprender novas estratégias copiando outras, tanto de seu próprio grupo quanto de toda a população.

Co-autor do estudo Professor Roger Whitaker, do Instituto de Pesquisa de Crime e Segurança da Universidade de Cardiff e da Escola de Ciência da Computação e Informática, disse:"Ao executar essas simulações milhares e milhares de vezes, começamos a compreender como o preconceito evolui e as condições que o promovem ou o impedem.

“Nossas simulações mostram que o preconceito é uma força poderosa da natureza e através da evolução, pode ser facilmente incentivado em populações virtuais, em detrimento de uma conectividade mais ampla com outros. A proteção de grupos prejudiciais pode inadvertidamente levar os indivíduos a formarem outros grupos prejudiciais, resultando em uma população fraturada. É difícil reverter esse preconceito generalizado. "

As descobertas envolvem indivíduos atualizando seus níveis de preconceito copiando preferencialmente aqueles que ganham uma recompensa maior de curto prazo, o que significa que essas decisões não requerem necessariamente habilidades cognitivas avançadas.

“É possível que máquinas autônomas com a capacidade de se identificar com discriminação e copiar outras possam no futuro ser suscetíveis aos fenômenos prejudiciais que vemos na população humana, "Professor Whitaker continuou.

"Muitos dos desenvolvimentos de IA que estamos vendo envolvem autonomia e autocontrole, o que significa que o comportamento dos dispositivos também é influenciado por outras pessoas ao seu redor. Os veículos e a Internet das coisas são dois exemplos recentes. Nosso estudo oferece uma visão teórica em que agentes simulados periodicamente convocam outros para algum tipo de recurso. "

Outra descoberta interessante do estudo foi que, em condições particulares, que incluem mais subpopulações distintas presentes em uma população, era mais difícil o preconceito se estabelecer.

"Com um número maior de subpopulações, alianças de grupos não prejudiciais podem cooperar sem serem exploradas. Isso também diminui seu status como minoria, reduzindo a suscetibilidade ao preconceito. Contudo, isso também requer circunstâncias em que os agentes tenham uma maior disposição para interagir fora de seu grupo, "Professor Whitaker concluiu.