Assistindo à exibição do 50º aniversário de "2001:A Space Odyssey, " Eu me achei, um matemático e cientista da computação cujas pesquisas incluem trabalhos relacionados à inteligência artificial, comparando a visão do futuro da história com o mundo de hoje.

O filme foi feito em colaboração com o escritor de ficção científica Arthur C. Clarke e o diretor de cinema Stanley Kubrick, inspirado no romance "Fim da Infância" de Clarke e seu conto menos conhecido "The Sentinel". Uma obra impressionante de ficção especulativa, retrata - em termos às vezes esperançosos e outras vezes preventivos - um futuro de contato alienígena, viagem interplanetária, máquinas conscientes e até mesmo o próximo grande salto evolutivo da humanidade.

A maneira mais óbvia pela qual 2018 ficou aquém da visão de "2001" está nas viagens espaciais. As pessoas ainda não visitam rotineiramente as estações espaciais, fazendo visitas comuns a uma das várias bases lunares, nem viajar para outros planetas. Mas Kubrick e Clarke acertaram no alvo ao imaginar as possibilidades, problemas e desafios do futuro da inteligência artificial.

O que os computadores podem fazer?

O drama principal do filme pode, de muitas maneiras, ser visto como uma batalha mortal entre o ser humano e o computador. A inteligência artificial de "2001" está incorporada em HAL, a presença computacional onisciente, o cérebro da nave Discovery One - e talvez o personagem mais famoso do filme. HAL marca o ápice da realização computacional:um autoconsciente, dispositivo aparentemente infalível e uma presença onipresente no navio, sempre ouvindo, sempre assistindo.

HAL não é apenas um assistente tecnológico para a tripulação, mas sim - nas palavras do comandante da missão Dave Bowman - o sexto membro da tripulação. Os humanos interagem com HAL falando com ele, e ele responde com uma voz masculina medida, em algum lugar entre um pai severo, mas indulgente, e uma enfermeira bem-intencionada. HAL é Alexa e Siri - mas muito melhor. A HAL tem controle total do navio e também, ao que parece, é o único membro da tripulação que conhece o verdadeiro objetivo da missão.

Ética na máquina

A tensão do terceiro ato do filme gira em torno de Bowman e seu colega de equipe Frank Poole se tornando cada vez mais cientes de que HAL está com defeito, e a descoberta de HAL dessas suspeitas. Dave e Frank querem desligar um computador com defeito, enquanto HAL autoconsciente quer viver. Todos querem completar a missão.

A partida de xadrez de vida ou morte entre os humanos e HAL oferece precursores de algumas das questões atuais sobre a prevalência e implantação da inteligência artificial na vida diária das pessoas.

Em primeiro lugar, está a questão de quanto controle as pessoas devem ceder às máquinas artificialmente inteligentes, independentemente de quão "inteligentes" os sistemas possam ser. O controle da HAL sobre o Discovery é como uma versão no espaço profundo da casa em rede do futuro ou o carro sem motorista. Cidadãos, formuladores de políticas, especialistas e pesquisadores ainda estão explorando até que ponto a automação poderia - ou deveria - tirar os humanos do circuito. Algumas das considerações envolvem questões relativamente simples sobre a confiabilidade das máquinas, mas outras questões são mais sutis.

As ações de uma máquina computacional são ditadas por decisões codificadas por humanos em algoritmos que controlam os dispositivos. Algoritmos geralmente têm algum objetivo quantificável, para o qual cada uma de suas ações deve progredir - como ganhar um jogo de damas, xadrez ou Go. Assim como um sistema de IA analisaria as posições das peças do jogo em um tabuleiro, ele também pode medir a eficiência de um warehouse ou o uso de energia de um data center.

Mas o que acontece quando um dilema moral ou ético surge no caminho para a meta? Para o HAL autoconsciente, completar a missão - e permanecer vivo - ganha quando comparado com a vida da tripulação. Que tal um carro sem motorista? É a missão de um carro autônomo, por exemplo, levar um passageiro de um lugar para outro o mais rápido possível - ou evitar matar pedestres? Quando alguém passa na frente de um veículo autônomo, esses objetivos entram em conflito. Isso pode parecer uma "escolha" óbvia para programar, mas e se o carro precisar "escolher" entre dois cenários diferentes, cada um dos quais causaria uma morte humana?

Sob vigilância

Em uma cena clássica, Dave e Frank vão para uma parte da estação espacial onde acham que HAL não pode ouvi-los para discutir suas dúvidas sobre o funcionamento de HAL e sua capacidade de controlar a nave e guiar a missão. Eles abordam a ideia de desligá-lo. Mal sabem eles que as câmeras de HAL podem vê-los:o computador está lendo seus lábios pela janela do pod e fica sabendo de seus planos.

No mundo moderno, uma versão dessa cena acontece o dia todo, todos os dias. A maioria de nós é monitorada continuamente de forma eficaz, por meio de nossos telefones quase sempre ligados ou vigilância corporativa e governamental de atividades do mundo real e online. A fronteira entre o privado e o público tornou-se e continua a ser cada vez mais difusa.

As relações dos personagens no filme me fizeram pensar muito sobre como as pessoas e as máquinas podem coexistir, ou mesmo evoluir juntos. Durante grande parte do filme, até os humanos falam uns com os outros suavemente, sem muito tom ou emoção - como podem falar com uma máquina, ou como uma máquina pode falar com eles. A famosa cena da morte de HAL - em que Dave metodicamente desconecta seus elos lógicos - me fez pensar se as máquinas inteligentes algum dia receberão algo equivalente aos direitos humanos.

Clarke acreditava ser bem possível que o tempo dos humanos na Terra fosse apenas um "breve local de descanso" e que a maturação e a evolução das espécies levariam necessariamente as pessoas muito além deste planeta. "2001" termina com otimismo, saltando um humano através do "Stargate" para marcar o renascimento da raça. Fazer isso na realidade exigirá que as pessoas descubram como fazer o melhor uso das máquinas e dispositivos que estão construindo, e para garantir que não deixemos que essas máquinas nos controlem.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.