Engenheiros de inteligência artificial devem alistar ideias e conhecimentos de uma ampla gama de disciplinas de ciências sociais, incluindo aqueles que adotam métodos qualitativos, a fim de reduzir o dano potencial de suas criações e servir melhor a sociedade como um todo, uma dupla de pesquisadores concluiu em uma análise que aparece na revista Nature Machine Intelligence .

"Há evidências crescentes de que a IA pode exacerbar a desigualdade, perpetuar a discriminação, e infligir dano, "escreva Mona Sloane, pesquisador do Instituto de Conhecimento Público da Universidade de Nova York, e Emanuel Moss, candidato a doutorado na City University of New York. "Para alcançar tecnologia socialmente justa, precisamos incluir a noção mais ampla possível de ciências sociais, um que inclui disciplinas que desenvolveram métodos para lidar com a vastidão do mundo social e que nos ajuda a entender como e por que os danos da IA ​​surgem como parte de um grande, complexo, e sistema tecno-social emergente. "

Os autores descrevem as razões pelas quais as ciências sociais se aproximam, e seus muitos métodos qualitativos, pode aumentar amplamente o valor da IA ​​e, ao mesmo tempo, evitar armadilhas documentadas. Estudos mostraram que os motores de busca podem discriminar mulheres negras, enquanto muitos analistas levantaram questões sobre como os carros autônomos tomarão decisões socialmente aceitáveis ​​em situações de acidente (por exemplo, evitando humanos em vez de hidrantes).

Sloane, também membro adjunto do corpo docente da Tandon School of Engineering da NYU, e Moss reconhece que os engenheiros de IA estão atualmente buscando incutir "alinhamento de valores" - a ideia de que as máquinas devem agir de acordo com os valores humanos - em suas criações, mas acrescente que "é excepcionalmente difícil definir e codificar algo tão fluido e contextual como 'valores humanos' em uma máquina".

Para resolver esta lacuna, os autores oferecem um modelo para a inclusão das ciências sociais na IA por meio de uma série de recomendações:

• A pesquisa social qualitativa pode ajudar a compreender as categorias por meio das quais entendemos a vida social e que estão sendo usadas na IA. "Por exemplo, os tecnólogos não são treinados para entender como as categorias raciais no aprendizado de máquina são reproduzidas como uma construção social que tem efeitos reais na organização e estratificação da sociedade, "Sloane e Moss observam." Mas essas questões são discutidas em profundidade nas ciências sociais, que pode ajudar a criar o pano de fundo sócio-histórico contra o qual a ... história de atribuição de categorias como 'raça' pode ser explicitada. "
• Uma abordagem qualitativa de coleta de dados pode estabelecer protocolos para ajudar a diminuir o preconceito. "Os dados sempre refletem os preconceitos e interesses de quem faz a coleta, "observam os autores." A pesquisa qualitativa é explícita sobre a coleta de dados, enquanto as práticas de pesquisa quantitativa em IA não são. "
• A pesquisa qualitativa normalmente requer que os pesquisadores reflitam sobre como suas intervenções afetam o mundo no qual fazem suas observações. "Uma abordagem quantitativa não exige que o pesquisador ou designer de IA se localize no mundo social, "eles escrevem." Portanto, não requer uma avaliação de quem está incluído na decisão vital de design de IA, e quem não é. "

"À medida que avançamos com a tecelagem social, cultural, e elementos tecnológicos de nossas vidas, devemos integrar diferentes tipos de conhecimento no desenvolvimento de tecnologia, "Sloane e Moss concluem." Um futuro mais socialmente justo e democrático para a IA na sociedade não pode ser meramente calculado ou planejado; deve ser vivido, narrado, e extraído de conhecimentos profundos sobre a sociedade. "