25 de janeiro 1979:Robert Williams, um operário de 25 anos de uma fábrica de fundição da Ford Motor Company em Flat Rock, Michigan, é solicitado a dimensionar uma enorme estante para contar manualmente as peças lá. A máquina de cinco andares usada para recuperar as peças fundidas está dando leituras falsas, e é trabalho de Williams subir e descobrir quantos realmente existem.

Enquanto Williams está lá em cima, fazendo o trabalho que ele mandou fazer, um braço de robô também encarregado de recuperar peças realiza seu trabalho. Em breve, o robô silenciosamente encontra o jovem, atingindo-o na cabeça e matando-o instantaneamente. O robô continua trabalhando, mas Williams ficou lá morto por 30 minutos antes que seu corpo fosse encontrado por colegas de trabalho preocupados, de acordo com o relatório da Knight-Ridder.

Naquele dia de inverno, Williams se torna o primeiro humano na história a ser morto por um robô.

A morte, Contudo, foi completamente não intencional. Simplesmente não havia salvaguardas para proteger Williams. Nenhum alarme o notificou sobre o braço que se aproximava, e nenhuma tecnologia poderia alterar o comportamento do robô na presença de um humano. Em 1979, a inteligência artificial envolvida não era sofisticada o suficiente para fazer qualquer coisa para prevenir tal morte. Um júri concordou que não havia cuidado suficiente no projeto do robô para evitar uma morte como essa. A família de Williams ganhou um processo de $ 10 milhões por sua morte injusta da Unit Handling Systems, uma divisão da Litton Industries, o fabricante que projetou o robô.

A próxima morte por robô ocorreria pouco mais de dois anos depois, no Japão, sob circunstâncias semelhantes:um braço de robô novamente não conseguiu detectar um trabalhador, Kenji Urada, 37 anos, e acidentalmente o empurrou para a morte.

Nos anos seguintes, roboticistas, os cientistas da computação e especialistas em inteligência artificial continuaram a lutar com a questão de como os robôs podem interagir com segurança com os humanos sem causar danos a eles.

Décadas depois, relatos de mortes humanas causadas por robôs ou inteligências artificiais parecem mais comuns. Uber e Tesla chegaram aos noticiários com relatos de seus carros autônomos e autônomos, respectivamente, entrar em acidentes e matar passageiros ou atropelar pedestres. Embora muitas salvaguardas estejam em vigor agora, o problema ainda não foi resolvido.

Nenhuma dessas mortes é causada pela vontade do robô; em vez disso, são todos acidentais. Mas há uma preocupação, alimentado pelas chamas de filmes e histórias de ficção científica como as séries "Terminator" e "Matrix", que as inteligências artificiais podem desenvolver uma vontade própria e, nesse desenvolvimento, desejo de prejudicar um humano.

Shimon Whiteson, professor associado do departamento de ciência da computação da Universidade de Oxford e cientista-chefe e cofundador da Morpheus Labs, chama essa preocupação de "falácia antropomórfica". Whiteson define a falácia como "a suposição de que um sistema com inteligência semelhante à humana também deve ter desejos semelhantes aos humanos, por exemplo., para sobreviver, seja livre, tem dignidade, etc. Não há absolutamente nenhuma razão para este ser o caso, como tal, um sistema terá apenas os desejos que lhe dermos. "

Desalinhamento de valor, ele discute, é a maior ameaça existencial, onde existe uma lacuna entre o que um programador diz a uma máquina para fazer e o que o programador realmente pretendia que acontecesse. "Como você comunica seus valores a um sistema inteligente de forma que as ações que ele realiza cumpram suas verdadeiras intenções? A discrepância entre os dois torna-se mais consequente à medida que o computador se torna mais inteligente e autônomo, "explica Whiteson.

Em vez de, Whiteson nos diz que a maior ameaça são os cientistas projetando robôs que podem matar alvos humanos sem intervenção humana para fins militares. É por isso que pesquisadores de IA e robótica em todo o mundo publicaram uma carta aberta pedindo o banimento mundial dessa tecnologia. E é por isso que as Nações Unidas se reunirão novamente em 2018 para discutir se e como regulamentar os chamados "robôs assassinos". Embora esses robôs não precisem desenvolver uma vontade própria para matar, eles poderiam ser programados para fazer isso.

O Guardian relata que 381 armas parcialmente autônomas e sistemas de robótica militar foram implantados ou estão em desenvolvimento em uma dúzia de países, incluindo China, França, Israel, o Reino Unido e os EUA. Além disso, sistemas automáticos já estão lá fora, mas eles não podem agir de forma autônoma.