Uma equipe de pesquisadores da Universidade de Hartford, a Universidade de Connecticut, e o Instituto Max Planck de Sistemas Inteligentes propuseram recentemente um caso apoiado, paradigma de comportamento baseado em princípios para garantir o comportamento ético de máquinas autônomas. Seu papel, publicado em Processos do IEEE , argumenta que o comportamento eticamente significativo de sistemas autônomos deve ser guiado por princípios éticos explícitos, determinado por consenso de especialistas em ética.

“Este ano marca o 50º aniversário do filme 2001:Uma Odisséia no Espaço , "Michael Anderson, um dos pesquisadores que realizaram o estudo disse ao TechXplore. "Enquanto lê The Making of 2001:A Space Odyssey na virada do século, Ocorreu-me que grande parte da capacidade de HAL havia perdido sua aura de ficção científica e estava prestes a ser realizada. Também me ocorreu que eles haviam entendido a ética tão errado:Se HAL estivesse ao virar da esquina, era hora de acertar a ética. "

Anderson e seus colegas têm trabalhado na descoberta de princípios éticos que podem ser incorporados em máquinas que funcionam de forma autônoma, como parte de um projeto chamado Machine Ethics. Eles acreditam que o comportamento da inteligência artificial deve ser norteado por princípios éticos. Esses princípios, determinado por um consenso de especialistas em ética, não deve apenas ajudar a garantir o comportamento ético de sistemas complexos e dinâmicos, mas também servem de base para justificar esse comportamento.

Os pesquisadores desenvolveram um extensível, paradigma de comportamento baseado em princípios e apoiado em casos gerais, denominado CPB. Neste paradigma, um sistema autônomo decide sua próxima ação usando um princípio abstraído de casos para os quais os especialistas em ética concordaram quanto à ação correta a ser realizada.

"O CPB usa aprendizado de máquina para abstrair um princípio de preferência ética de características eticamente relevantes de casos particulares de dilemas éticos, onde a escolha eticamente preferível é clara, "Anderson explicou." Um sistema pode usar esse princípio para determinar a ação eticamente preferível a qualquer momento. "

O paradigma representa explicitamente esses princípios, de modo que também podem ajudar a justificar as ações de um sistema autônomo. Em outras palavras, O CPB pode ajudar a compreender melhor o comportamento de um robô, oferecendo explicações lógicas de por que escolheu agir de uma maneira particular.

"Quando estávamos tentando determinar como o robô saberia que estava em uma situação em que sua ética deveria entrar em ação, percebemos que sempre esteve nesse estado:a ética não é simplesmente sobre não escolher ações incorretas, trata-se de escolher qual de todas as suas ações é eticamente preferível em uma determinada situação, "Disse Anderson." Diante disso, O CPB está empenhado em determinar ações eticamente preferíveis em qualquer situação, e faz isso sempre que a situação muda. "

O objetivo final do estudo era determinar as características e deveres eticamente relevantes no campo dos cuidados com a terceira idade, identificando princípios que podem orientar o comportamento dos robôs de cuidados idosos. Contudo, o mesmo paradigma também pode ser aplicado a robôs que operam em outros domínios. No futuro, também pode fornecer orientação ética para sistemas que não sejam robôs, como agentes virtuais de saúde.

"Defendemos uma abordagem de dever prima facie para a ética, onde qualquer dever pode substituir outro, dependendo da situação, "Disse Anderson." Em outras palavras, não há hierarquia estrita como existe, dizer, nas leis de Asimov. No futuro, acreditamos que nosso esquema de representação de funções / deveres será útil para capturar a essência de todos os dilemas éticos. "

A contribuição de Vincent Berenz para o projeto, Brincalhão, publicado recentemente em Robótica e Automação IEEE , permite comportamento reativo e interruptível em robôs. Esse comportamento é crítico para que o robô responda adequadamente às preocupações éticas em constante mudança.

"Acreditamos que existe um ganho de experiência que os especialistas em ética vêm com o pensamento longo e árduo sobre a ética, "Anderson disse." Não estamos dizendo que eles necessariamente se comportam melhor, ser ético é difícil para todos, mas que eles têm uma compreensão melhor do que deve ser feito e são mais capazes de defender esses julgamentos do que os leigos. Esse pensamento cuidadoso aplicado a casos simples pode ser útil para fazer determinações em casos mais difíceis que exibem as mesmas características eticamente relevantes. "

No futuro, paradigmas como o CPB podem garantir que robôs e máquinas inteligentes tomem decisões éticas de forma consistente, ao mesmo tempo, permite que os humanos entendam melhor suas escolhas. Os pesquisadores agora estão trabalhando para ampliar o escopo de seu trabalho, a fim de abordar uma ampla variedade de problemas éticos.

"Estamos planejando estender nossa pesquisa, adicionar mais ações e considerar recursos mais eticamente relevantes para o fim de desenvolver um princípio ético que pode ser usado para direcionar o comportamento de todos os futuros robôs de idosos, "Anderson disse." Estaremos testando essas novas idéias em um robô PAL Robotics TIAGo. "

© 2018 Science X Network