Imagine um mundo onde os humanos coexistissem com seres que, como nós, tinha mentes, pensamentos, sentimentos, consciência autoconsciente e a capacidade de realizar ações propositadas - mas, ao contrário de nós, esses seres tinham corpos mecânicos artificiais que podiam ser ligados e desligados.

Esse admirável mundo novo levantaria muitos problemas à medida que chegássemos a um acordo com nossas contrapartes robôs como parte integrante da vida cotidiana. Como devemos nos comportar em relação a eles? Que deveres morais nós teríamos? Que direitos morais teriam essas pessoas não humanas? Seria moralmente permissível tentar impedir seu surgimento? Ou teríamos o dever de promover e fomentar sua existência?

Questões éticas intrigantes como essas são levantadas no romance recente de Ian McEwan, Máquinas como eu, em que Alan Turing vive uma vida longa e bem-sucedida e impulsiona explosivamente o desenvolvimento da inteligência artificial (IA) que leva à criação de "um ser humano manufaturado com aparência e inteligência plausíveis, movimento crível e mudanças de expressão ".

Como especulação intelectual, considerar a ética do tratamento do racional, máquinas sencientes é interessante. Mas dois argumentos comuns podem sugerir que o assunto não tem relevância prática e quaisquer questões éticas não precisam ser levadas a sério.

A primeira é que essas pessoas artificiais não poderiam existir. O segundo, frequentemente levantada no debate sobre o aborto, é que apenas as pessoas que têm corpos humanos vivos e independentemente viáveis ​​têm o devido respeito moral e são dignas de consideração moral. Como veremos, esses argumentos são discutíveis.

Mente, matéria e propriedades emergentes

Podemos supor que os fenômenos mentais - consciência, pensamentos, sentimentos e assim por diante, são de alguma forma diferentes das coisas que constituem os computadores e outras máquinas fabricadas por humanos. E podemos supor que os cérebros materiais e as máquinas materiais são fundamentalmente diferentes das mentes conscientes. Mas sejam essas suposições verdadeiras ou não - e eu acho que são - isso não segue que senciente, conscientemente atento, pessoas produzidas artificialmente não são possíveis.

O sociólogo francês Emile Durkheim argumentou de forma muito convincente que devemos tomar cuidado com os argumentos simplistas das ciências sociais. Fenômenos sociais, como a linguagem, não poderia existir sem a interação de seres humanos individuais com suas características psicológicas e biológicas particulares. Mas não se segue que os fenômenos sociais resultantes - ou "propriedades emergentes - possam ser completa e corretamente explicados apenas em termos dessas características.

O mesmo ponto sobre a possibilidade de propriedades emergentes se aplica a todas as ciências. Não poderia haver, por exemplo, computadores do tipo em que estou trabalhando agora sem os pedaços de plástico, fios, chips de silício e assim por diante que compõem a máquina. Ainda, as operações de um computador não podem ser explicadas apenas em termos das características desses componentes individuais. Uma vez que esses componentes são combinados e interagem de maneiras específicas com a eletricidade, surge um fenômeno de um novo tipo:um computador. De forma similar, uma vez que os computadores são combinados e interagem de maneiras específicas, a internet é criada. Mas claramente, a internet é um tipo diferente de fenômeno tangível, computador físico.

De maneira semelhante, não precisamos supor que as mentes são redutíveis a cérebros, moléculas, átomos ou quaisquer outros elementos físicos necessários para seu funcionamento. Eles podem ser entidades de um tipo diferente que emergem de interações e combinações específicas deles.

Não há nenhuma razão lógica óbvia para que a percepção consciente do tipo que os seres humanos possuem - a capacidade de pensar e tomar decisões - não possa aparecer em uma máquina humana algum dia. Se é fisicamente possível e, portanto, é provável que realmente aconteça, está aberto ao debate.

As máquinas merecem nossa consideração?

Não parece controverso dizer que não devemos caluniar pessoas mortas ou destruir desenfreadamente o planeta para que as gerações futuras de pessoas que ainda não nasceram não possam desfrutá-lo como nós. Ambos os grupos merecem respeito e consideração moral. Eles devem ser considerados como objetos potenciais de nossos deveres morais e recipientes potenciais de nossa benevolência.

Mas os mortos e os que ainda vão nascer não têm corpos viáveis ​​de qualquer tipo - sejam naturais ou artificiais. Negar às pessoas conscientes respeito moral e consideração com base no fato de que elas têm corpos artificiais em vez de naturais parece ser arbitrário e caprichoso. Isso exigiria uma justificativa, e não é óbvio o que pode ser.

Um dia, talvez mais cedo do que pensamos, uma consideração da ética do tratamento do racional, as máquinas sencientes podem acabar sendo mais do que um exercício acadêmico abstrato.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.