A maioria das pesquisas sobre a ética da Inteligência Artificial (IA) diz respeito ao seu uso para armamento, transporte ou criação de perfis. Embora os perigos apresentados por um tanque autônomo e racista não possam ser subestimados, há outro aspecto em tudo isso. E nossas responsabilidades com as IAs que criamos?
Os jogos de RPG online massivamente multijogador (como World of Warcraft) são realidades de bolso povoadas principalmente por personagens não-jogadores. No momento, esses personagens não são particularmente inteligentes, mas dê 50 anos e eles serão.

Desculpe? 50 anos não serão suficientes? Leve 500. Leve 5.000.000. Temos o resto da eternidade para conseguir isso.

Você quer computadores do tamanho de um planeta? Você pode te-los. Você quer computadores feitos de tecido cerebral humano? Você pode te-los. Eventualmente, acredito que vamos ter mundos virtuais contendo personagens tão inteligentes quanto nós – se não mais inteligentes – e em plena posse de livre arbítrio. Quais serão nossas responsabilidades para com esses seres? Afinal, seremos os deuses literais das realidades em que habitam, controlando a física de seus mundos. Podemos fazer o que quisermos com eles.

Então, sabendo de tudo isso... deveríamos?

Dificuldades éticas do livre arbítrio

Como explorei em meu livro recente, sempre que "deveria" está envolvido, a ética intervém e assume o controle - mesmo para videogames. A primeira pergunta a ser feita é se nossos personagens de jogos do futuro são dignos de serem considerados entidades morais ou são simplesmente bits em um banco de dados. Se for o último, não precisamos incomodar nossa consciência com eles mais do que faríamos com caracteres em um processador de texto.

A questão é realmente discutível, no entanto. Se criarmos nossos personagens para ser seres de pensamento livre, então devemos tratá-los como se eles são tais — independentemente de como possam parecer a um observador externo.

Sendo esse o caso, podemos desligar nossos mundos virtuais? Fazer isso poderia condenar bilhões de criaturas inteligentes à inexistência. Ainda assim, estaria tudo bem se salvássemos uma cópia do mundo deles no momento em que o terminamos? A possibilidade teórica de podermos ligar o mundo deles de volta exatamente como era significa que não estamos na verdade assassinando-os? E se não tivermos o software original do jogo?

Podemos legitimamente causar sofrimento a esses personagens? Nós mesmos implementamos o próprio conceito, então isso não é tanto uma questão sobre se é certo atormentá-los, mas sim sobre se atormentá-los é mesmo uma coisa. Nas sociedades modernas, a posição padrão é que é imoral fazer indivíduos de pensamento livre sofrerem, a menos que eles concordem com isso ou para salvá-los (ou outra pessoa) de algo pior. Não podemos pedir aos nossos personagens que concordem em nascer em um mundo de sofrimento – eles não existirão quando criarmos o jogo.

Então, e a alternativa "algo pior"? Se você possui livre arbítrio, você deve ser sapiente, portanto, deve ser você mesmo um ser moral. Isso significa que você deve ter desenvolvido moral, então deve ser possível que coisas ruins aconteçam com você. Caso contrário, você não poderia ter refletido sobre o que é certo ou errado para desenvolver sua moral. Dito de outra forma, a menos que coisas ruins aconteçam, não há livre arbítrio. Remover o livre arbítrio de um ser equivale a destruir o ser que era anteriormente, portanto, sim, temos que permitir o sofrimento ou o conceito de caráter sapiente é um oximoro.

Vida após a morte?

Aceitando que nossos personagens do futuro são seres de pensamento livre, onde eles se encaixam em uma hierarquia de importância? Em geral, dada uma escolha direta entre salvar um ser sapiente (como uma criança) ou um meramente senciente (como um cachorro), as pessoas escolheriam o primeiro sobre o último. Dada uma escolha semelhante entre salvar um cachorro real ou um santo virtual, o que prevaleceria?

Tenha em mente que se seus personagens se percebem como seres morais, mas você não os percebe como tal, eles vão pensar que você é um idiota. Como Alphinaud Leveilleur, um personagem de Final Fantasy XIV , coloca bem (spoiler:tendo acabado de descobrir que seu mundo foi criado pelas ações de seres que, consequentemente, não o consideram propriamente vivo):"Nós defina nosso valor, não as circunstâncias de nossa criação!"

Vamos permitir que nossos personagens morram? É um trabalho extra para implementar o conceito. Se eles vivem para sempre, nós os tornamos invulneráveis ​​ou simplesmente os impedimos de morrer? A vida não seria muito divertida depois de cair em um liquidificador, afinal. Se eles morrerem, nós os movemos para o paraíso dos jogos (ou inferno) ou simplesmente os apagamos?

Essas não são as únicas perguntas que podemos fazer. Podemos inserir ideias em suas cabeças? Podemos mudar o mundo deles para mexer com eles? Impomos nossa moral a eles ou deixamos que desenvolvam a sua própria (da qual podemos discordar)? Há muitos mais.

Em última análise, a maior questão é:devemos criar personagens sapientes em primeiro lugar?

Agora você deve ter notado que eu fiz muitas perguntas aqui. Você pode estar se perguntando quais são as respostas.

Bem, eu também! Esse é o objetivo deste exercício. A humanidade ainda não tem um arcabouço ético para a criação de realidades das quais somos deuses. Ainda não existe nenhum sistema de meta-ética para nos ajudar. Precisamos resolver isso antes construímos mundos povoados por seres com livre arbítrio, seja daqui a 50, 500, 5.000.000 anos ou amanhã. Estas são perguntas para você para responder.

Tenha cuidado como você faz isso, no entanto. Você pode abrir um precedente.

Nós mesmos somos os personagens não-jogadores da Realidade.