Yolanda Gil, presidente da Associação para o Avanço da Inteligência Artificial (AAAI), discute o que será necessário para mover a IA para frente sem mover a segurança para trás.

O ano é 2031. Um surto de um vírus transmitido por mosquitos altamente contagioso nos EUA se espalhou rapidamente para as principais cidades do mundo. Está tudo pronto para impedir a propagação da doença - e isso inclui a implantação de sistemas de inteligência artificial (IA), que vasculham notícias online e mídias sociais em busca de dados e padrões relevantes.

Trabalhando com esses resultados, e dados coletados de vários hospitais em todo o mundo, os cientistas descobrem uma ligação interessante com uma condição neurológica rara e um tratamento é desenvolvido. Dentro de dias, a doença está sob controle. Não é difícil imaginar este cenário - mas se os sistemas futuros de IA serão competentes o suficiente para fazer o trabalho depende em grande parte de como lidamos com o desenvolvimento de IA hoje.

Isso está de acordo com um novo Roteiro de Inteligência Artificial de 20 anos, coautorado por Yolanda Gil, professor de pesquisa em ciência da computação da USC e diretor de pesquisa do USC Viterbi Information Sciences Institute (ISI), com especialistas em ciência da computação de universidades dos EUA

Recentemente publicado pelo Computing Community Consortium, financiado pela National Science Foundation, o roteiro visa identificar desafios e oportunidades no cenário de IA, e para informar decisões futuras, políticas e investimentos nesta área.

Como presidente da Associação para o Avanço da Inteligência Artificial (AAAI), Gil co-presidiu o roteiro com Bart Selman, professor de ciência da computação na Cornell University.

Conversamos com Gil sobre o que IA significa hoje, o que será necessário para construir uma IA mais inteligente e competente no futuro, e como garantir que a IA opere com segurança ao se aproximar dos humanos em sua inteligência.

A entrevista foi condensada e editada para maior clareza.

Por que você empreendeu o esforço do AI Roadmap com o Computing Community Consortium?

Queríamos realmente destacar o que será necessário para que os sistemas de IA se tornem mais inteligentes a longo prazo. Então, você pensa em interfaces de conversação como Siri e Alexa - até hoje, eles ainda têm muitas limitações. O que seria necessário para torná-los sistemas de IA mais cientes de nosso mundo? Por exemplo, para eles entenderem "O que é uma mãe?" e "Por que é importante me lembrar do aniversário da minha mãe?" Esses são os tipos de perguntas que fazemos no relatório.

Queríamos entender quais pesquisas são necessárias para nossos sistemas de IA - as interfaces de conversação, os carros autônomos, os robôs - para ter recursos adicionais. Se não investirmos em áreas de pesquisa de longo prazo, pode não haver uma próxima geração de sistemas que entenderá do que se trata o nosso mundo, que será melhor para aprender sobre suas tarefas, e isso será mais competente.

O que a frase inteligência artificial realmente significa para você em 2019?

Na verdade, a IA trata de estudar e criar recursos que normalmente associamos a comportamentos inteligentes. Estes tendem a estar relacionados com a mente, inteligência e pensamento, em oposição a comportamentos reativos em pequena escala.

Normalmente pensamos sobre inteligência em termos de capacidades que envolvem pensamento, raciocínio, Aprendendo; em termos de gerenciamento de informações e tarefas complexas que afetam o mundo que nos rodeia. Coisas como, você pode aprender depois de passar por muitas experiências? Ou exemplos? Você pode aprender observando alguém fazendo uma tarefa? Você pode aprender com seus próprios erros? Você pode aprender com a explicação de como algo funciona?

Aprender é apenas um aspecto da IA. Existem também outros aspectos que têm a ver com o raciocínio, planejando e organizando. E então outras partes da IA ​​relacionadas à linguagem natural e comunicação, e outros relacionados à robótica.

Então, há muitos comportamentos inteligentes diferentes que incluímos sob a égide da IA. Dado que temos muitos sistemas de IA ao nosso redor, uma questão-chave é:como podemos elevá-los para ter a próxima geração de recursos?

Os pesquisadores de IA estão realmente tentando emular o pensamento humano? Ou a inteligência da máquina é algo completamente diferente?

Nós vamos, muitas pesquisas estão olhando para o comportamento humano como uma inspiração para IA, ou como um alvo, tentando modelar a inteligência humana e o comportamento humano. Mas esse é apenas um setor da comunidade.

Existem outros pesquisadores, como eu, que olham para o comportamento humano e o usam como uma motivação para criar ou projetar máquinas que "pensam, "independentemente de como a memória humana funciona, ou o que os experimentos cognitivos nos dizem sobre o pensamento humano, ou biologia humana ou o cérebro. Então, adotamos mais uma abordagem de engenharia.

E às vezes você vê IA que toca em ambos - então você terá sistemas cognitivos verdadeiramente inspirados em humanos que abordam tarefas inteligentes da forma como os humanos as fariam. Por exemplo, alguns robôs estão tentando parecer humanos, mas muitos outros robôs farão a mesma tarefa e você sabe, não importa sua aparência. A pesquisa está progredindo em ambas as áreas.

O que você acha particularmente impressionante na pesquisa atual de IA?

Ver o sucesso que esses sistemas estão tendo em aplicações importantes, como medicina e outras áreas da ciência, é muito empolgante para mim. Os sistemas de IA têm sido usados ​​na medicina há décadas, mas eram muito complexos e demorados para construir, e eles só teriam um desempenho aceitável em certas áreas. Acho que agora estamos vendo sistemas de IA penetrando em novas áreas da medicina. Por exemplo, Os sistemas de IA são muito bons na identificação de tumores ou certos tipos de células com base em imagens de patologia.

Que grandes desafios você acha que precisam ser superados para mover a agulha na IA?

O relatório destaca muitos desafios organizados em três grandes áreas de pesquisa. Um grande desafio é integrar recursos de inteligência. Agora mesmo, por exemplo, você tem robôs que aspiram, você tem sistemas de IA que falam, mas é muito difícil integrar esses recursos separados para trabalhar juntos.

A segunda é a comunicação:como a IA se conecta com os humanos e transmite informações. Hoje, conversamos com sistemas de IA, mas não há interesses na conversa, então mal-entendidos são aceitos, e um resultado produtivo é desejável, mas não crucial. Mas e se essas coisas realmente importassem?

O terceiro é a aprendizagem autoconsciente, então por exemplo, o que seria necessário para uma IA pensar:"Não devo usar o que aprendi porque ainda não vi exemplos suficientes disso" ou "dados os poucos exemplos que vi, Devo analisá-los de novas maneiras para obter mais informações deles. “Ainda não temos sistemas que possam fazer isso.

Essas questões apresentam uma agenda de pesquisa muito ambiciosa e estimulante para IA nos próximos 20 anos.

O que precisa mudar para que a pesquisa em IA dê grandes passos?

Os resultados do relatório indicam que, para perseguir esta agenda de pesquisa, precisamos expandir muito a infraestrutura atual da universidade para IA. Precisamos entrar em uma era onde há colaborações acadêmicas mais substanciais sobre problemas de IA, e recursos mais substanciais, como hardware, recursos de dados e kits de ferramentas de software aberto.

Como inspiração, estamos apontando esforços de bilhões de dólares que fizeram uma diferença significativa no mundo:O Projeto Genoma Humano, que realmente impulsionou o campo da genômica; ou o projeto LIGO, o que levou à observação experimental de ondas gravitacionais. O que estamos dizendo é que, a menos que estejamos nesse nível de investimento, levará muito tempo para chegar ao próximo nível de recursos de IA.

Nos Estados Unidos, temos muitos pesquisadores fantásticos e as melhores universidades. Acho que precisamos continuar a apoiar projetos de pesquisa individuais como fizemos no passado, mas precisamos adicionar uma nova camada significativa de esforços muito maiores. É por isso que o relatório recomenda a criação de multi-decadal, centros de pesquisa multiuniversitários que abordarão grandes questões e grandes organizações dedicadas a problemas específicos.

Com o que você está mais animado nos próximos 20 anos na IA?

Acho que a aplicação de IA para pesquisas e descobertas científicas tem o potencial de realmente mudar o mundo, e este é o foco da minha pesquisa. Existem muitos desafios em termos de representação do conhecimento científico de uma forma legível por máquina, para integrar sistemas de IA como parte do processo de pesquisa. Então, capacitar cientistas com ferramentas melhores é uma área realmente empolgante para mim. Meu sonho é que em 20 anos, um cientista chegará ao escritório pela manhã e seu sistema de IA contará a eles resultados interessantes com os quais trabalhou durante a noite. Seremos capazes de fazer descobertas em um ritmo mais rápido, desde encontrar curas para doenças até melhor gestão dos recursos naturais, como água.

A estrada à frente parece emocionante, para dizer o mínimo, mas como podemos garantir que as pessoas não sejam deixadas de fora enquanto a IA avança?

Precisamos garantir que haja oportunidades justas para todos acessarem essa tecnologia. Temos que empurrar a IA para o nível do jardim de infância, dando às crianças a oportunidade de entender como essa tecnologia pode impactar suas vidas, todo o caminho até a faculdade.

No relatório, recomendamos carreiras para engenheiros de IA não apenas em nível de doutorado, mas em todos os níveis, incluindo bacharelado e até mesmo diplomas do ensino médio em IA. Precisamos de técnicos para consertar robôs, para preparar dados para sistemas de IA, e usar ferramentas de IA em novas áreas de aplicação.

As pessoas têm justificativa para suas preocupações com a IA?

Acho que devemos estar cientes de que, quando a IA é implantada na vida real em setores específicos, cria novos desafios para a segurança, Confiar em, e ética. Minha primeira preocupação são os humanos que implantam e operam sistemas de IA, em vez do próprio sistema de IA - é por isso que eu gostaria de ver mais engajamento na política e no uso ético da IA.

Hoje, muitas implantações de IA não estão passando por um estágio de engenharia de segurança e pensamento ético sobre esse uso específico da tecnologia. Então, Acho que devemos investir muito mais nisso. No relatório, Recomendamos a criação de novos graus e planos de carreira explicitamente em ética e segurança em IA de engenharia de IA.

Também é importante observar que essas questões não são apenas problemas dos pesquisadores de IA. A pesquisa de IA tem tantas ramificações e tantas conexões com todas as disciplinas. Os pesquisadores de IA estão genuinamente entusiasmados em se envolver com outras comunidades. Esperamos que o relatório ajude a fomentar esse diálogo entre disciplinas e comunidades, na USC e além.

Qual você acha que é o maior mito sobre IA?

Acho que os humanos atribuem inteligência à IA de maneira muito generosa. Nós interagimos com um sistema de IA, e começamos a imaginar que ele está realmente nos entendendo, só porque dizia "olá". Mas na realidade, realmente não entendia nada. Os sistemas de IA são frequentemente percebidos como mais capazes do que realmente são. Então, quando você usa ou interage com um sistema de IA, use algum pensamento crítico sobre o que é realmente capaz de fazer neste momento.