Quase todo mundo conhece a história de HAL 9000, o supercomputador matador no filme de Stanley Kubrick 2001:Uma Odisséia no Espaço , cujo 50º aniversário será comemorado em 12 de maio, 2018 no 71º Festival de Cannes. Em uma coincidência de programação intrigante, IBM, O parceiro de Kubrick durante as filmagens de Uma Odisseia no Espaço , e a Airbus acaba de lançar o projeto CIMON (Crew Interactive Mobile Companion), um "inteligente, sistema móvel e interativo de assistência ao astronauta "que se juntará à Estação Espacial Internacional.

Esses dois eventos nos levam a um debate sobre os riscos criados pelo desenvolvimento da superinteligência que poderia eliminar empregos em grande escala ou, pior ainda, varrer a espécie humana da face do planeta - e levantar a questão de como avaliar tal ameaça.

A data, não temos experiência de acidentes ou desastres devido a IA defeituosa ou maliciosa. Contudo, a imaginação de artistas e cientistas é um tesouro de material que conta a história da superinteligência livre de qualquer controle humano.

Uma história de IA dando errado

2001:Uma Odisséia no Espaço é um precursor de controvérsias contemporâneas. Conta a história da luta e eventual conquista de um ser humano, o único sobrevivente de um programa metódico de extermínio liderado por um supercomputador consciente.

A bordo da nave Discovery One , apenas o supercomputador HAL 9000 foi informado por seus criadores do propósito da missão:chegar a Júpiter e procurar por sinais de inteligência extraterrestre. Embora seja considerado infalível, HAL comete um erro. A máquina se recusa a admitir isso, e, apanhados, afirma que o erro se deve a "erro humano". Em princípio, os humanos são os designers do computador, mas, se for para acreditar, poderia ser o próprio computador? Adotando essa linha de raciocínio, a máquina dá a si mesma um status que os membros da tripulação não poderiam imaginar - o de uma vida, ser senciente e pensante.

Para a tripulação, O erro de HAL é inaceitável. Não há espaço para perdão ou caridade:o erro pode ser humano, mas não é máquina. Não há apelação:HAL deve ser retirado de serviço. O supercomputador, onipresente e onisciente, descobre imediatamente o projeto projetado para encerrar sua vida. Para sobreviver e completar sua missão, ele decide eliminar a tripulação. Apenas um humano sobrevive, Astronauta David Bowman, e ele recomeça, com ainda mais determinação, a missão de homicídio digital.

Bowman consegue penetrar no núcleo da unidade e, em seguida, mecanicamente, sem emoção e quase cerimoniosamente se desconecta, um por um, circuitos de memória da máquina de seu alojamento. Como uma criança apanhada com a mão no pote de biscoitos, o computador tenta, falando sobre si mesmo, para inviabilizar a lobotomia. Em uma tentativa final, canta uma música que aprendeu nas primeiras horas de "vida", mas nada funciona, e finalmente sua voz desaparece.

IA que pode falar sobre si mesma

Muito mais do que a história de uma luta até a morte, um dos tesouros do filme é que considera a dimensão narrativa da IA. É capaz não apenas de inventar histórias sobre si mesmo, mas também pode falhar devido às circunstâncias e aos seus próprios erros. Assim, a eliminação da tripulação não é o resultado de HAL 9000 se tornar autônomo, mas de uma "história ruim" que a máquina conta a si mesma, o de acreditar que a tripulação pode comprometer a missão.

O trabalho de Kubrick permite, assim, conceber os riscos causados ​​pela superinteligência não em termos de dominação técnica, mas como a construção de uma identidade narrativa imperfeita. Embora a realidade ainda esteja longe de alcançar a ficção, vale a pena pensar em algumas descobertas iniciais nesta área.

Em 2016, um romance intitulado O dia em que um computador escreve um romance ... Quase ganhou um prêmio literário japonês, o Nikkei Hoshi Shinichi. Foi pré-escrito por uma equipe de pesquisa de IA da Universidade de Hakodate, cujo trabalho consistia inicialmente na seleção de palavras e frases, em seguida, definindo parâmetros que permitiam a um programa "escrever" o romance. De mais de 1, 450 inscrições para o prêmio, 11 foram escritos, pelo menos em parte, por um não humano. Claro, o júri nada sabia sobre os "autores".

O ano seguinte, no mesmo espírito, mas sem um co-autor digital, Zack Thoutt, um fã da série de TV Guerra dos Tronos , usou uma rede neural alimentada com mais de 5, 000 páginas de texto dos livros em que foi baseado para prever o que pode acontecer a seguir na história. O resultado está longe de ser igual ao trabalho do autor George R. Martin, mas o texto é, em geral, compreensível e as previsões são semelhantes a algumas das teorias que são populares entre os fãs da série.

Mais recentemente, um programa desenvolvido pelo Media Lab do MIT - batizado de "Shelley" em homenagem a Mary Shelley, o autor de Frankenstein; ou, O Prometeu Moderno - criou contos aterrorizantes, projetado para assustar. A primeira etapa foi treinar o programa com histórias escritas por humanos retiradas de um banco de dados de mais de 140, 000 referências. Na segunda fase, o computador gerou seus próprios trabalhos, que melhorou ao colaborar com humanos que respondiam às suas mensagens via Twitter.

E no domínio da leitura e compreensão de histórias, O Google acaba de lançar seu serviço "Talk to book", que permite aos usuários conversar em linguagem natural com um algoritmo de aprendizagem automática que supostamente os ajudará em suas futuras escolhas de leitura.

Histórias que evocam os riscos da IA

Se, como HAL 9000, Computadores de IA tentam escrever histórias, eles ainda estão longe de atingir os padrões estabelecidos por autores humanos. Embora ninguém possa prever com certeza como pode ser a superinteligência artificial, ainda é possível imaginá-lo produzindo histórias que estimulam nosso pensamento.

O historiador Yuval Noah Harari assumiu a tarefa, imaginando um futuro onde a automação de máquinas causaria o desaparecimento da maioria dos empregos. Ele argumentou que os humanos correm o risco de perder seu valor econômico porque a inteligência será dissociada da consciência. Embora a inteligência seja necessária para dirigir um carro ou diagnosticar uma doença, consciência e experiências humanas subjetivas não são obrigatórias.

Ainda mais alarmista, o filósofo Nick Bostrom apresenta a ideia de que os humanos provavelmente não terão a oportunidade de experimentar essa revolução desastrosa porque é provável que sejam exterminados assim que a superinteligência artificial aparecer.

Harari e Bostrom baseiam suas conclusões na redução da ação à sua dimensão funcional, julgado apenas em termos de eficácia. Mas essa visão negligencia áreas inteiras da existência humana. Para remediar isso, o neurocientista Antonio Damasio argumenta que a vida representa um ato complexo em que os sentimentos são a expressão de uma luta permanente para alcançar o equilíbrio que sustenta a existência humana. Para Damásio, sem subjetividade não há criatividade, e sem as emoções que se manifestam nas relações entre o corpo e o cérebro para perceber a realidade, não há humanidade.

Aceitar isso relega Kubrick ao posto de gênio cuja profecia, embora poético, não é realista. Também significa admitir que um computador de IA nunca será capaz de redefinir sua própria missão às custas de seus criadores. E finalmente, devemos levar muito a sério a ideia de que o principal risco para a humanidade é uma ciberguerra iniciada pelos próprios humanos - um conflito populado por drones e robôs assassinos apoiados por enxames de vírus de computador que são todos mais inteligentes que os outros.

Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.