Os humanos não são as únicas pessoas na sociedade - pelo menos de acordo com a lei. Nos E.U.A., corporações receberam direitos de liberdade de expressão e religião. Algumas características naturais também têm direitos pessoais. Mas ambos exigiram mudanças no sistema jurídico. Um novo argumento abriu caminho para que os sistemas de inteligência artificial também sejam reconhecidos como pessoas - sem qualquer legislação, decisões judiciais ou outras revisões da lei existente.

O jurista Shawn Bayer mostrou que qualquer pessoa pode conferir personalidade jurídica a um sistema de computador, colocando-o no controle de uma sociedade de responsabilidade limitada nos EUA. Se essa manobra for mantida nos tribunais, sistemas de inteligência artificial seriam capazes de possuir propriedade, processar, contrate advogados e desfrute da liberdade de expressão e outras proteções previstas na lei. Na minha opinião, os direitos humanos e a dignidade seriam prejudicados como resultado.

A brecha corporativa

Dar direitos à IAs semelhantes aos humanos envolve uma manobra técnica de advogado. Ele começa com uma pessoa criando duas sociedades de responsabilidade limitada e transferindo o controle de cada empresa para um sistema autônomo ou artificialmente inteligente separado. Em seguida, a pessoa adicionaria cada empresa como membro da outra LLC. Na última etapa, a pessoa se retiraria de ambas as LLCs, deixando cada LLC - uma entidade corporativa com personalidade jurídica - regida apenas pelo sistema de IA da outra.

Esse processo não exige que o sistema de computador tenha nenhum nível particular de inteligência ou capacidade. Pode ser apenas uma sequência de declarações "se" procurando, por exemplo, no mercado de ações e tomando decisões de compra e venda com base na queda ou alta dos preços. Pode até ser um algoritmo que toma decisões aleatoriamente, ou uma emulação de uma ameba.

Reduzindo o status humano

Conceder direitos humanos a um computador degradaria a dignidade humana. Por exemplo, quando a Arábia Saudita concedeu cidadania a um robô chamado Sophia, mulheres humanas, incluindo estudiosas feministas, objetou, observando que o robô recebeu mais direitos do que muitas mulheres sauditas.

Em certos lugares, algumas pessoas podem ter menos direitos do que softwares e robôs não inteligentes. Em países que limitam os direitos dos cidadãos à liberdade de expressão, prática religiosa gratuita e expressão da sexualidade, corporações - potencialmente incluindo empresas administradas por IA - poderiam ter mais direitos. Isso seria uma indignidade enorme.

O risco não termina aí:se os sistemas de IA se tornarem mais inteligentes do que as pessoas, os humanos podem ser relegados a um papel inferior - como trabalhadores contratados e demitidos por chefes supremos corporativos da IA ​​- ou mesmo desafiados pelo domínio social.

Os sistemas de inteligência artificial podem ser encarregados da aplicação da lei entre as populações humanas - atuando como juízes, jurados, carcereiros e até carrascos. Robôs guerreiros também poderiam ser designados para os militares e receber poder para decidir sobre os alvos e danos colaterais aceitáveis ​​- mesmo em violação das leis humanitárias internacionais. A maioria dos sistemas jurídicos não foi criada para punir robôs ou responsabilizá-los por atos ilícitos.

Que tal votar?

Conceder direitos de voto a sistemas que podem se copiar tornaria os votos humanos sem sentido. Mesmo sem dar esse passo significativo, no entanto, a possibilidade de corporações controladas pela IA com direitos humanos básicos apresenta sérios perigos. Nenhuma lei atual impediria uma IA malévola de operar uma corporação que trabalhou para subjugar ou exterminar a humanidade por meios legais e influência política. As empresas controladas por computador podem acabar respondendo menos à opinião pública ou aos protestos do que as empresas administradas por humanos.

Riqueza imortal

Dois outros aspectos das corporações tornam as pessoas ainda mais vulneráveis ​​aos sistemas de IA com direitos humanos legais:elas não morrem, e podem dar quantias ilimitadas de dinheiro a candidatos e grupos políticos.

Inteligências artificiais podem ganhar dinheiro explorando trabalhadores, usando algoritmos para precificar bens e gerenciar investimentos, e encontrar novas maneiras de automatizar os principais processos de negócios. Por longos períodos de tempo, isso poderia resultar em ganhos enormes - que nunca seriam divididos entre os descendentes. Essa riqueza poderia ser facilmente convertida em poder político.

Os políticos apoiados financeiramente por entidades algorítmicas seriam capazes de assumir órgãos legislativos, presidentes de impeachment e ajuda a nomear figuras de proa para a Suprema Corte. Essas figuras humanas poderiam ser usadas para expandir os direitos corporativos ou mesmo estabelecer novos direitos específicos para sistemas de inteligência artificial - expandindo ainda mais as ameaças à humanidade.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.