• Home
  • Química
  • Astronomia
  • Energia
  • Natureza
  • Biologia
  • Física
  • Eletrônicos
  •  science >> Ciência >  >> Outros
    O feminismo de dados examina problemas de preconceito e poder que afetam a informação moderna
    p Crédito:Diana Levine e MIT Press

    p Suponha que você gostaria de saber as taxas de mortalidade de mulheres durante o parto, por país, ao redor do mundo. Onde você olharia? Uma opção é o Projeto WomanStats, o site de um esforço de pesquisa acadêmica que investiga as ligações entre a segurança e as atividades dos estados-nação, e a segurança das mulheres que nelas vivem. p O projeto, fundada em 2001, atende a uma necessidade juntando dados de todo o mundo. Muitos países são indiferentes à coleta de estatísticas sobre a vida das mulheres. Mas mesmo onde os países se esforçam mais para coletar dados, existem desafios claros para se chegar a números úteis - se se trata da segurança física das mulheres, direitos de propriedade, e participação do governo, entre muitas outras questões.

    p Por exemplo:em alguns países, as violações dos direitos das mulheres podem ser relatadas com mais regularidade do que em outros lugares. Isso significa que um sistema jurídico mais ágil pode criar a aparência de problemas maiores, quando fornece relativamente mais apoio para as mulheres. O Projeto WomanStats observa muitas dessas complicações.

    p Assim, o WomanStats Project oferece algumas respostas, por exemplo, Austrália, Canadá, e grande parte da Europa Ocidental tem baixas taxas de mortalidade no parto - ao mesmo tempo que mostra quais são os desafios de se aceitar os números pelo valor de face. Esse, de acordo com a professora do MIT Catherine D'Ignazio, torna o site incomum, e valioso.

    p "Os dados nunca falam por si, "diz D'Ignazio, referindo-se ao problema geral de encontrar números confiáveis ​​sobre a vida das mulheres. "Sempre há humanos e instituições falando pelos dados, e diferentes pessoas têm suas próprias agendas. Os dados nunca são inocentes. "

    p Agora D'Ignazio, um professor assistente no Departamento de Estudos Urbanos e Planejamento do MIT, deu uma olhada mais profunda neste problema em um novo livro, em coautoria com Lauren Klein, professor associado de inglês e teoria e métodos quantitativos na Emory University. No livro, "Feminismo de dados, "publicado este mês pela MIT Press, as autoras usam as lentes do feminismo interseccional para examinar como a ciência de dados reflete as estruturas sociais das quais emerge.

    p "O feminismo interseccional examina o poder desigual, "escrevem D'Ignazio e Klein, na introdução do livro. "E em nosso mundo contemporâneo, dados também são poder. Como o poder dos dados é exercido injustamente, deve ser desafiado e mudado. "

    p O problema de 4 por cento

    p Para ver um caso claro de relações de poder gerando dados tendenciosos, D'Ignazio e Klein observam, considere a pesquisa conduzida pela própria Joy Buolamwini do MIT, que, como aluno de pós-graduação em uma classe estudando programas de reconhecimento facial, observou que o software em questão não conseguia "ver" seu rosto. Buolamwini descobriu que, para o sistema de reconhecimento facial em questão, o software foi baseado em um conjunto de rostos que eram 78% masculinos e 84% brancos; apenas 4 por cento eram mulheres e de pele escura, como ela mesma.

    p A cobertura subsequente da mídia do trabalho de Buolamwini, D'Ignazio e Klein escrevem, continha "uma pitada de choque". Mas os resultados foram provavelmente menos surpreendentes para aqueles que não são homens brancos, eles pensam.

    p “Se o passado é racista, opressivo, sexista, e tendencioso, e esses são seus dados de treinamento, é para isso que você está sintonizado, "D'Ignazio diz.

    p Ou considere outro exemplo, da gigante da tecnologia Amazon, que testou um sistema automatizado que usava IA para classificar currículos promissores enviados por candidatos a emprego. Um problema:como uma grande porcentagem dos funcionários da empresa eram homens, o algoritmo favoreceu os nomes dos homens, outras coisas sendo iguais.

    p "Eles pensaram que isso ajudaria [o] processo, mas, claro, o que isso faz é treinar a IA [sistema] para ser tendenciosa para as mulheres, porque eles próprios não contrataram tantas mulheres, "D'Ignazio observa.

    p Para crédito da Amazon, ele reconheceu o problema. Além disso, D'Ignazio observa, esse tipo de problema é um problema que pode ser resolvido. “Algumas das tecnologias podem ser reformadas com um processo mais participativo, ou melhores dados de treinamento. ... Se concordarmos que é uma boa meta, um caminho a seguir é ajustar seu conjunto de treinamento e incluir mais pessoas de cor, mais mulheres. "

    p "Quem está na equipe? Quem teve a ideia? Quem está se beneficiando?"

    p Ainda, a questão de quem participa da ciência de dados é, como os autores escrevem, "o elefante na sala do servidor." A partir de 2011, apenas 26 por cento de todos os alunos de graduação que receberam diplomas de ciência da computação nos EUA eram mulheres. Isso não é apenas um número baixo, mas na verdade um declínio em relação aos níveis anteriores:em 1985, 37 por cento dos graduados em ciência da computação eram mulheres, a nota mais alta já registrada.

    p Como resultado da falta de diversidade no campo, D'Ignazio e Klein acreditam, muitos projetos de dados são radicalmente limitados em sua capacidade de ver todas as facetas das situações sociais complexas que pretendem medir.

    p "Queremos tentar sintonizar as pessoas com esses tipos de relações de poder e por que eles são tão importantes, "D'Ignazio diz." Quem está no time? Quem teve a ideia? Quem está se beneficiando com o projeto? Quem é potencialmente prejudicado pelo projeto? "

    p Em tudo, D'Ignazio e Klein delineiam sete princípios do feminismo de dados, de examinar e desafiar o poder, para repensar sistemas binários e hierarquias, e abraçar o pluralismo. (Essas estatísticas sobre gênero e graduados em ciência da computação são limitadas, eles notam, usando apenas as categorias "masculino" e "feminino", excluindo assim pessoas que se identificam em termos diferentes.)

    p Pessoas interessadas em feminismo de dados, os autores afirmam, deve também "valorizar múltiplas formas de conhecimento, "incluindo o conhecimento em primeira mão que pode nos levar a questionar dados aparentemente oficiais. eles devem sempre considerar o contexto em que os dados são gerados, e "tornar o trabalho visível" quando se trata de ciência de dados. Este último princípio, os pesquisadores observam, fala sobre o problema de que mesmo quando mulheres e outras pessoas excluídas contribuem para projetos de dados, freqüentemente recebem menos crédito por seu trabalho.

    p Para todas as críticas do livro aos sistemas existentes, programas, e práticas, D'Ignazio e Klein também têm o cuidado de incluir exemplos positivos, esforços de sucesso, como o projeto WomanStats, que cresceu e prosperou ao longo de duas décadas.

    p "Para pessoas que trabalham com dados, mas são novas no feminismo, queremos fornecer a eles uma introdução muito acessível, e dar a eles conceitos e ferramentas que eles podem usar em sua prática, "D'Ignazio diz." Não estamos imaginando que as pessoas já tenham feminismo em seu kit de ferramentas. Por outro lado, estamos tentando falar com pessoas que estão muito ligadas ao feminismo ou aos princípios de justiça social, e destacar para eles como a ciência de dados é problemática, mas pode ser orientado a serviço da justiça. " p Esta história foi republicada por cortesia do MIT News (web.mit.edu/newsoffice/), um site popular que cobre notícias sobre pesquisas do MIT, inovação e ensino.




    © Ciência https://pt.scienceaq.com