p Os sistemas de inteligência artificial (IA) estão se tornando mais parecidos conosco. Você pode pedir ao Google Home para desligar as luzes do seu quarto, tanto quanto você pode perguntar ao seu parceiro humano. p Quando você envia pedidos de texto para a Amazon online, às vezes não fica claro se você está sendo atendido por um ser humano ou pela tecnologia de chatbot da empresa.

p Há claramente um mercado para máquinas com habilidades psicológicas humanas. Mas devemos pensar no que podemos criar inadvertidamente.

p E se tornarmos a IA tão boa em ser humano que nosso tratamento possa causar danos? Pode parecer que tem o direito de se vingar de nós.

p Máquinas que 'sentem'

p Com as habilidades psicológicas humanas pode vir a senciência. Os filósofos entendem a senciência como a capacidade de sofrer e sentir prazer.

p E os seres sencientes podem ser prejudicados. É uma questão levantada pelo filósofo australiano Peter Singer em seu livro de 1975, Animal Liberation, que perguntou como devemos tratar os animais não humanos. Ele escreveu:"Se um ser sofre, não pode haver justificativa moral para recusar levar esse sofrimento em consideração. Não importa a natureza do ser, o princípio da igualdade exige que seu sofrimento seja contado igualmente com o sofrimento semelhante - na medida em que comparações grosseiras podem ser feitas - de qualquer outro ser. "

p Singer dedicou sua carreira a falar pelos animais, que são seres sencientes incapazes de falar por si próprios.

p Falando pela IA

p Os pesquisadores em IA estão procurando fazer um AGI ou inteligência artificial geral - uma máquina capaz de qualquer tarefa intelectual realizada por um ser humano. AI já pode aprender, mas o AGI será capaz de realizar tarefas além daquelas para as quais foi programado.

p Os especialistas discordam sobre o quão longe está um AGI. O inventor de tecnologia dos EUA, Ray Kurzweil, espera um AGI em breve, talvez 2029. Outros acham que teremos de esperar um século.

p Mas se estivermos interessados ​​em tratar bem os seres sencientes, podemos não ter que esperar até a chegada de um AGI.

p Um dos pontos de Singer é que muitos seres sencientes estão muito aquém da inteligência humana. Por esse argumento, A IA não precisa ser tão inteligente quanto um humano para ser senciente.

p O problema é que não existe um teste direto para a sensibilidade.

p Enviar uma missão tripulada humana a Marte é muito desafiador, mas pelo menos saberemos quando terminarmos.

p Fazer uma máquina com sentimentos é desafiador de uma forma filosoficamente mais perplexa. Porque não temos critérios claros para a sensibilidade da máquina, não podemos ter certeza de quando o fizemos.

p Olhe para a ficção científica

p A ambigüidade da sensibilidade da máquina é uma característica de várias apresentações de ficção científica da IA.

p Por exemplo, Niska é um robô humanóide, um sintetizador, servindo como trabalhadora do sexo na série de TV Humans. Somos informados de que, ao contrário da maioria dos sintetizadores, ela é senciente.

p Quando Niska é questionada sobre por que matou um cliente, ela explica:"Ele queria ser rude".

p A advogada humana Laura Hawkins responde:"Mas, isso é errado se ele não acha que você pode sentir? ... Não é melhor que ele exercite suas fantasias com você em um bordel do que descontá-las em alguém que pode realmente sentir? "

p De uma perspectiva humana, alguém poderia pensar que a agressão sexual dirigida contra uma máquina inconsciente é um crime sem vítimas.

p Mas e quanto a um robô sexual que adquiriu senciência? Niska passa a explicar que ficou assustada com o comportamento do cliente em relação a ela. "E me desculpe, eu não posso chorar ou ... sangrar ou torcer minhas mãos, então você sabe disso. Mas eu estou te dizendo, Eu era."

p Humanos não é a única história de ficção científica a alertar sobre ataques de vingança de máquinas projetadas para serem exploradas por humanos por prazer e dor.

p No remake de TV de Westworld, humanos entram em um parque temático e matam hosts Android com o abandono dos massacres do Xbox, confiantes de que suas vítimas não têm ressentimentos porque não podem ter sentimentos.

p Mas aqui novamente, alguns anfitriões adquiriram consciência secretamente e se vingam de seus algozes humanos.

p Somos apenas humanos

p É apenas ficção científica? As máquinas sencientes estão muito distantes? Possivelmente. Talvez não.

p Mas os maus hábitos podem demorar um pouco para serem desaprendidos. Nós - ou melhor, os animais - ainda estamos sofrendo a ressaca filosófica da terrível ideia do pensador francês do século 17, René Descartes, de que os animais são autômatos sem mente - sem sensibilidade.

p Se vamos fazer máquinas com capacidades psicológicas humanas, devemos nos preparar para a possibilidade de que eles se tornem sencientes. Como então eles reagirão ao nosso comportamento em relação a eles?

p Talvez nosso comportamento em relação à IA não senciente hoje deva ser impulsionado por como esperaríamos que as pessoas se comportassem em relação a qualquer IA senciente futura que possa sentir, isso pode sofrer. Como esperaríamos que essa futura máquina senciente reagisse em relação a nós?

p Essa pode ser a grande diferença entre as máquinas e os animais que Singer defende. Os animais não podem se vingar. Mas as máquinas sencientes podem. p Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.