Barbara Grosz tem a fantasia de que toda vez que um cientista da computação faz logon para escrever um algoritmo ou construir um sistema, uma mensagem piscará na tela perguntando, "Você já pensou nas implicações éticas do que está fazendo?"

Até que esse dia chegue, Grosz, o Professor Higgins de Ciências Naturais da Escola de Engenharia e Ciências Aplicadas de Harvard John A. Paulson (SEAS), está trabalhando para incutir na próxima geração de cientistas da computação uma mentalidade que considere o impacto social de seu trabalho, e o raciocínio ético e as habilidades de comunicação para fazê-lo.

"A ética permeia o design de quase todos os sistemas ou algoritmos de computador que estão sendo lançados no mundo, "Grosz disse." Queremos educar nossos alunos a pensar não apenas sobre quais sistemas eles podem construir, mas se eles devem construir esses sistemas e como eles devem projetar esses sistemas. "

Em uma época em que os departamentos de ciência da computação em todo o país estão lutando para descobrir como formar graduados que entendam de ética e também de algoritmos, Harvard está adotando uma abordagem inovadora.

Em 2015, Grosz projetou um novo curso denominado "Sistemas Inteligentes:Desafios Éticos e de Design". Um especialista em inteligência artificial e um pioneiro no processamento de linguagem natural, Grosz recorreu a colegas do departamento de filosofia de Harvard para co-ministrar o curso. Eles intercalaram no conteúdo técnico do curso uma série de enigmas éticos da vida real e as teorias filosóficas relevantes necessárias para avaliá-los. Isso forçou os alunos a enfrentar questões que, ao contrário da maioria dos problemas de ciência da computação, não tem uma resposta correta óbvia.

Os alunos responderam. O curso rapidamente atraiu seguidores e no segundo ano 140 pessoas estavam competindo por 30 vagas. Havia uma demanda por mais cursos desse tipo, não só por parte dos alunos, mas também pelos colegas do corpo docente de ciência da computação de Grosz.

"O corpo docente achou que isso era interessante e importante, mas eles não tinham experiência em ética para ensiná-la sozinhos, " ela disse.

Em resposta, Grosz e a colaboradora Alison Simmons, o professor de filosofia Samuel H. Wolcott, desenvolveu um modelo que se baseia na experiência do departamento de filosofia e o integra a uma lista crescente de mais de uma dúzia de cursos de ciência da computação, da programação introdutória à teoria do nível de graduação.

Sob a iniciativa, apelidado de Embedded EthiCS, alunos de pós-graduação em filosofia são colocados em pares com membros do corpo docente de ciência da computação. Juntos, eles revisam o material do curso e decidem sobre um tópico eticamente rico que surgirá naturalmente do conteúdo. Um estudante de graduação identifica leituras e desenvolve um estudo de caso, Atividades, e atribuições que irão reforçar o material. Os instrutores de ciência da computação e filosofia ensinam lado a lado quando o material do Embedded EthiCS é levado para a sala de aula.

Grosz e seus colegas de filosofia estão no centro de um movimento que eles esperam que se espalhe para programas de ciência da computação em todo o país. A abordagem de "pedagogia distribuída" de Harvard é diferente de muitos programas universitários que tratam da ética adicionando um curso autônomo que é, Mais frequentes do que não, apenas um eletivo para majores de ciência da computação.

"Cursos autônomos podem ser ótimos, mas podem enviar a mensagem de que a ética é algo em que você pensa depois de fazer seu trabalho "real" de ciência da computação, "Simmons disse." Queremos enviar a mensagem de que o raciocínio ético faz parte do que você faz como um cientista da computação. "

Incorporar a ética ao currículo ajuda os alunos de ciência da computação a ver como as questões éticas podem surgir em muitos contextos, Questões que vão desde a maneira como as redes sociais facilitam a disseminação de informações falsas até a censura e técnicas de aprendizado de máquina que possibilitam inferências estatísticas no emprego e no sistema de justiça criminal.

Cursos de inteligência artificial e aprendizado de máquina são áreas óbvias para discussões éticas, mas o Embedded EthiCS também construiu módulos para pares menos óbvios, como álgebra aplicada.

"Realmente queremos que os alunos se habituem a pensar:como pode surgir uma questão ética neste ou naquele contexto?" Simmons disse.

David Parkes, George F. Colony Professor de Ciência da Computação, leciona uma ampla classe de graduação sobre tópicos de economia algorítmica. “Sem esta iniciativa, Eu teria lutado para elaborar as questões éticas certas relacionadas às regras para mercados de correspondência, ou escolher objetivos para sistemas de recomendação, "disse ele." Tem sido uma experiência reveladora para fazer os alunos pensarem cuidadosamente sobre questões éticas. "

Grosz reconheceu que pode ser um desafio para professores de ciência da computação e seus alunos compreenderem dilemas éticos muitas vezes opacos.

"Os cientistas da computação estão acostumados com a existência de maneiras de provar que as respostas dos conjuntos de problemas estão corretas ou os algoritmos eficientes, ", disse ela." Terminar em uma situação em que diferentes valores levam à existência de compensações e maneiras de apoiar diferentes 'conclusões corretas' é uma mudança de mentalidade desafiadora. Mas colocar essas questões normativas na mente do projetista do sistema de computador é crucial para a sociedade agora. "

Jeffrey Behrends, atualmente um colega residente no Edmond J. Safra Center for Ethics de Harvard, co-ministrou o curso de design e ética com Grosz. Behrends disse que a experiência revelou maior harmonia entre os dois campos do que se poderia esperar.

"Uma vez que os alunos que não estão familiarizados com a filosofia são apresentados a ela, eles percebem que não é um empreendimento misterioso totalmente independente de outras formas de pensar sobre o mundo, "disse ele." Muitos estudantes que são atraídos pela ciência da computação também são atraídos por algumas das metodologias da filosofia, porque enfatizamos o pensamento rigoroso. Enfatizamos uma metodologia para resolver problemas que não parece muito diferente de algumas das metodologias para resolver problemas em ciência da computação. "

O modelo Embedded EthiCS atraiu o interesse de universidades - e empresas - em todo o país. Recentemente, especialistas de mais de 20 instituições se reuniram em Harvard para um workshop sobre os desafios e as melhores práticas para integrar a ética aos currículos de ciência da computação. Mary Gray, pesquisador sênior da Microsoft Research (e bolsista do Berkman Klein Center for Internet and Society de Harvard), que ajudou a convocar o encontro, disse que, além de técnicas impecáveis, os empregadores estão cada vez mais procurando pessoas que entendam a necessidade de criar tecnologia que seja acessível e socialmente responsável.

"Nosso desafio na indústria é ajudar pesquisadores e profissionais a não ver a ética como uma caixa que deve ser verificada no final, mas sim pensar sobre essas coisas desde o início de um projeto, "Gray disse.

Essas preocupações inspiraram recentemente a Association for Computing Machinery (ACM), a maior sociedade de computação científica e educacional do mundo, atualizar seu código de ética pela primeira vez desde 1992.

Na esperança de espalhar o conceito Embedded EthiCS amplamente no cenário da ciência da computação, Grosz e colegas escreveram um artigo a ser publicado na revista Comunicações do ACM e lançou um site para servir como um repositório de código aberto de seus módulos de curso de maior sucesso.

Eles imaginam uma mudança de cultura que levará a uma nova geração de profissionais de ciência da computação com mentalidade ética.

"Em nosso mundo de sonho, o sucesso levará a formuladores de políticas mais bem informados e novos modelos corporativos de organização que constroem a ética em todos os estágios de design e liderança corporativa, "Behrends diz.

O experimento também gerou conversas interessantes além do domínio da ciência da computação.

"Temos feito isso no contexto da tecnologia, mas incorporar a ética desta forma é importante para todas as disciplinas científicas que estão divulgando coisas no mundo, "Grosz disse." Para fazer isso, precisaremos desenvolver uma geração de filósofos que irão pensar sobre as maneiras pelas quais eles podem assumir a ética filosófica e o pensamento normativo, e trazê-lo para toda a ciência e tecnologia. "

Módulos de curso cuidadosamente projetados

No cerne do programa Embedded EthiCS são cuidadosamente projetados, módulos específicos do curso, desenvolvido colaborativamente por professores de ciência da computação e filosofia.

Um módulo criado para um curso ministrado pelo professor Finale Doshi-Velez pede aos alunos que lidem com questões de como os modelos de aprendizado de máquina podem ser discriminatórios, e como essa discriminação pode ser reduzida. Uma palestra introdutória estabelece uma estrutura filosófica do que é discriminação, incluindo os conceitos de tratamento e impacto díspares. Os alunos aprendem como eliminar a discriminação no aprendizado de máquina requer mais do que simplesmente reduzir o preconceito no sentido técnico. Mesmo definir uma tarefa socialmente boa pode não ser suficiente para reduzir a discriminação, já que o aprendizado de máquina depende de correlações úteis para a previsão e essas correlações às vezes resultam em maior desigualdade entre os grupos.

O módulo ilumina as ramificações e limitações potenciais do uso de uma definição de impacto díspar para identificar a discriminação. Ele também apresenta o trabalho técnico de ciência da computação sobre discriminação - critérios de justiça estatística. Um exercício em sala de aula concentra-se em um caso em que um algoritmo que prevê o sucesso de candidatos a empregos a posições de vendas em um grande varejista resulta em menos afro-americanos sendo recomendados para cargos do que candidatos brancos.

Uma tarefa fora da classe pede aos alunos que utilizem essa base para resolver um problema ético concreto enfrentado por cientistas da computação em atividade (isto é, engenheiros de software trabalhando para o Departamento de Trabalho). A tarefa dá aos alunos a oportunidade de aplicar o material a um problema do mundo real do tipo que eles podem enfrentar em suas carreiras, e pede que eles articulem e defendam sua abordagem para resolver o problema.