Em 1969, Herbert Simon, pioneiro da inteligência artificial e ganhador do Nobel, propôs uma nova ciência, aquele que abordou o estudo de objetos artificiais da mesma forma que se estudaria objetos naturais.

"A ciência natural é o conhecimento sobre objetos e fenômenos naturais, "Simon escreveu." Perguntamos se não pode haver ciência 'artificial' - conhecimento sobre objetos e fenômenos artificiais. "

Agora, 50 anos depois, uma equipe de pesquisadores de Harvard, MIT, Stanford, a Universidade da Califórnia, San Diego, Google, Facebook, Microsoft, e outras instituições estão renovando essa convocação. Em um artigo recente publicado na revista Natureza , os pesquisadores propuseram um novo, campo interdisciplinar - comportamento de máquina - que estudaria inteligência artificial através das lentes da biologia, economia, psicologia, e outras ciências comportamentais e sociais.

Máquinas inteligentes, os pesquisadores argumentam, não podem mais ser vistos apenas como produtos da engenharia e da ciência da computação; em vez, eles devem ser vistos como uma nova classe de atores com seus próprios comportamentos e ecologia.

A Escola de Engenharia e Ciências Aplicadas (SEAS) de Harvard John A. Paulson conversou com David Parkes, o professor de ciência da computação George F. Colony e co-autor do artigo, sobre este campo emergente e o que o futuro reserva para máquinas inteligentes.

Perguntas e Respostas:David Parkes

SEAS:Por muito tempo, o estudo da inteligência artificial e das máquinas inteligentes foi confinado ao domínio da ciência da computação, e os pesquisadores que construíram as máquinas foram os mesmos que estudaram seu comportamento. Por que é importante expandir o escopo de estudo para incluir novos campos, incluindo ciências comportamentais e sociais?

PARKES:Primeiro, uma separação entre os projetistas e construtores de máquinas inteligentes e aqueles que estudam como elas são (ou não) usadas pode trazer um ponto de vista independente ao desenvolver e testar os conjuntos corretos de hipóteses sobre o desempenho dessas tecnologias. Existem razões pragmáticas também, em que o estudo de máquinas inteligentes se torna uma ciência comportamental, exigindo tipos bastante diferentes de especialização. Outro ponto é que os sistemas desenvolvidos nos confins estreitos de um laboratório podem se comportar de maneira muito diferente "na natureza, "quando o comportamento se torna um produto da maneira como são usados, incluindo as muitas maneiras que são diferentes do que seus designers pretendiam. O bot Tay da Microsoft [que começou a postar tweets ofensivos depois que trolls "ensinaram" seu discurso de ódio] é um exemplo infeliz, mas não tão único.

SEAS:Como os campos do comportamento da máquina e da ciência da computação podem crescer juntos e se informar mutuamente no futuro?

PARKES:Como a ciência da computação passou a ter tal impacto, o campo passou a abraçar o que os economistas podem se referir como "análise positiva, "o que quer dizer análise que se baseia nos estudos empíricos e experimentais de implantados, sistemas computacionais - a estrutura da World Wide Web, a propagação de informações nas redes sociais, ou a forma como os sistemas de tutoria interativos são usados, para dar apenas três exemplos. Máquinas inteligentes são um novo tipo de artefato que precisamos estudar e entender, e precisaremos fazer isso de uma forma interdisciplinar que inclua cientistas da computação trabalhando em colaboração com cientistas sociais, humanistas, eticistas, estudiosos legais, para citar apenas alguns. Mais amplamente, o estudo do comportamento da máquina será impactado pelos avanços na ciência de dados, em trabalhar em escala com grandes quantidades de diferentes tipos de dados, e no aproveitamento de métodos de aprendizagem de máquina probabilística e estatísticas para descobrir causa e efeito.

SEAS:Seu trabalho se concentra na interseção de IA e economia. Que perguntas sobre o comportamento da máquina você está mais interessado em responder?

PARKES:Estou interessado em um programa de pesquisa que estuda o comportamento da máquina dentro da economia algorítmica, incluindo algoritmos de preços, algoritmos de recomendação, e sistemas de reputação, bem como no contexto de blockchains. Já podemos ver uma trajetória em direção à automação de muitos dos principais constituintes do que compõe um sistema econômico, e a lente do comportamento da máquina é boa porque o comportamento é emergente, o que significa que é baseado não apenas em interações individuais, mas também em forças sociais e econômicas. Acho que os sistemas de recomendação, como os empregados pela Amazon, são especialmente interessantes e importantes para estudar porque é onde veremos questões espinhosas surgirem em torno da economia comportamental, marketing algorítmico, e ética ... Por exemplo, está tudo bem para um recomendador inteligente alavancar "efeitos do conjunto de escolhas" para aumentar a receita?

SEAS:Quais são os efeitos do conjunto de escolha?

PARKES:Eu te mostro um barato, custo moderado, e uma máquina de café cara e você escolhe a de preço moderado. Mas, se eu te mostrar um moderado, caro, e máquina superluxuosa, você escolhe o ...?

SEAS:caro. Você mencionou empresas privadas como Amazon e Microsoft. Os algoritmos proprietários e de caixa preta devem representar um desafio para a compreensão do comportamento da máquina. Como podemos entender por que uma máquina se comporta dessa maneira quando não sabemos o que é o algoritmo ou como ele toma decisões?

PARKES:Curiosamente, os algoritmos não precisam ser muito complicados. Os algoritmos para treinar um sistema de aprendizado profundo, que descrevem a arquitetura de um modelo e a forma como o modelo será treinado, normalmente pode ser expresso em apenas dezenas de linhas de código (embora o código que então se constrói sobre outro, código de nível inferior). São os modelos treinados que são complexos e um tanto inescrutáveis, frequentemente considerada uma "caixa preta". Mas não é impossível, e há muitas direções de pesquisa sensatas - por exemplo, exigindo modelos mais simples, insistindo em uma explicação post hoc do comportamento de modelos complexos, e usando visualização e análises de sensibilidade para tentar entender a maneira como esses modelos funcionam e testar teorias sobre comportamento.

SEAS:A inteligência artificial já desempenha um papel importante em nossas vidas. Qual a importância de estabelecer este novo campo de pesquisa agora? Você tem medo de que esteja começando tarde demais, quando grande parte da base da IA ​​já foi lançada?

PARKES:Bem, nunca é tarde demais, e estamos apenas no início da onda de mudança que virá com o desenvolvimento de máquinas inteligentes. É necessário avançar deliberadamente, com medidas apropriadas de curiosidade, criatividade, e responsabilidade, ao mesmo tempo, com o reconhecimento de que pessoas e máquinas continuarão a se unir de maneiras novas e inesperadas. O que é importante é o reconhecimento da necessidade do estudo científico, e este artigo de revisão reúne tópicos neste emergente, campo interdisciplinar do comportamento da máquina.

Esta história foi publicada como cortesia da Harvard Gazette, Jornal oficial da Universidade de Harvard. Para notícias adicionais da universidade, visite Harvard.edu.