Décadas depois de Isaac Asimov escrever pela primeira vez suas leis para robôs, seu papel cada vez maior em nossas vidas requer um novo conjunto radical de regras, O especialista legal e em IA, Frank Pasquale, alertou na quinta-feira.

O mundo mudou desde que o autor de ficção científica Asimov, em 1942, escreveu suas três regras para robôs, incluindo que eles nunca devem prejudicar os humanos, e os computadores e algoritmos onipresentes de hoje exigem medidas atualizadas.

De acordo com Pasquale, autor de "The Black Box Society:The Secret Algorithms Behind Money and Information", quatro novas regras inspiradas na lei devem ser aplicadas aos robôs e à IA em nossa vida diária.

"A primeira é que os robôs devem complementar, em vez de substituir, os profissionais", disse Pasquale à AFP durante uma conferência de robótica na Pontifícia Academia de Ciências do Vaticano.

"Em vez de ter um médico robô, você deve esperar ter um médico que realmente entenda como a IA funciona e receba conselhos realmente bons da IA, mas, em última análise, é decisão do médico decidir o que fazer e o que não fazer. "

"A segunda é que precisamos parar as corridas armamentistas robóticas. Há muitas pessoas agora que estão investindo em robôs de guerra, robôs militares, robôs policiais. "

Sem humanóides

Pasquale, professor de direito na Universidade de Maryland, afirma que é importante que qualquer investimento em robótica militar ou IA forneça alguma vantagem que "não será imediatamente cancelada por seus inimigos".

"É deprimente, é dinheiro pelo buraco, você constrói um robô que pode dizer se meu robô pode dizer se seu robô pode dizer se meu robô está prestes a atacar. Simplesmente nunca acaba. "

O terceiro, e o mais controverso, regra não é fazer robôs humanóides ou IA, diz Pasquale, citando o exemplo de um assistente do Google chamado Duplex que ligava para as pessoas para confirmar reservas de hotel sem dizer que estavam falando com um computador.

"Houve uma reação imediata a isso porque as pessoas pensaram que era o Google tentando fazer com que suas máquinas fossem humanas e eu acho que o princípio da falsificação é o mais importante, que não devemos falsificar a humanidade. "

Os robôs podem parecer humanóides "apenas se for totalmente necessário para a tarefa, "disse Pasquale, como "robôs de cuidados ou robôs sexuais".

A quarta e última lei é que qualquer robô ou IA deve ser "atribuível a ou de propriedade de uma pessoa ou corporação feita de pessoas porque ... sabemos como punir as pessoas, mas não sabemos como punir as máquinas".

Tecnologia de duas camadas

“Se tivermos drones voando sobre o lugar que são autônomos, carros que são autônomos, bots online que falam no Twitter ou em ações de negociação de finanças, tudo isso deve ser atribuído a uma pessoa. "

“Existem empresas como o Facebook, onde apenas multam a empresa, mas nunca forçam ninguém a desistir de dinheiro ou ser preso por fazer algo errado. E isso é um problema.

"Já temos um problema com as corporações e se permitirmos que os robôs estejam lá fora sem serem atribuídos a uma pessoa ou corporação, só fica pior, "disse Pasquale, cujo livro "New Laws of Robotics" será publicado pela Harvard University Press.

O que deve ser evitado a todo custo é a tecnologia de duas camadas, tal como proposto pela Boeing para seus aviões 737-MAX, aterrado depois que centenas morreram em dois acidentes causados ​​por falha de um sensor devido a um erro de software.

"Eles decidiram em alto nível que permitiriam que as companhias aéreas comprassem um segundo sensor, mas isso seria um custo extra, Eu acho que foi 80, 000 dólares extras por avião, e isso para mim prenuncia uma tonelada de problemas. "

"Parte do que a lei tem que fazer é intervir e dizer que algumas dessas barganhas não vamos permitir, vamos dizer que temos um padrão para voar, é um padrão único, não é como se eu precisasse verificar se a Ryanair, American Airlines ou Lufthansa compraram o sensor extra, porque isso é loucura. "

© 2019 AFP