Elon Musk anunciou um robô humanóide projetado para ajudar com aqueles repetitivos, tarefas chatas que as pessoas odeiam fazer. Musk sugeriu que ele poderia correr para o supermercado para você, mas presumivelmente ele lidaria com qualquer número de tarefas envolvendo trabalho manual.

Previsivelmente, a mídia social cheia de referências a uma série de filmes distópicos de ficção científica sobre robôs em que tudo dá terrivelmente errado.

Tão preocupante quanto o futuro do robô em filmes como "Eu, Robô, "" O Exterminador "e outros são, são as tecnologias subjacentes de robôs humanóides reais - e a intenção por trás delas - que deve ser motivo de preocupação.

O robô de Musk está sendo desenvolvido pela Tesla. É uma mudança aparente do negócio de fabricação de automóveis da empresa, até que você considere que a Tesla não é um fabricante automotivo típico. O chamado "Tesla Bot" é um conceito para um design elegante, Robô semelhante ao humano de 125 libras (56 quilogramas) que incorporará a inteligência artificial automotiva da Tesla e tecnologias de piloto automático para planejar e seguir rotas, navegar no tráfego - neste caso, pedestres - e evite obstáculos.

Suposições distópicas de ficção científica à parte, o plano faz sentido, embora dentro da estratégia de negócios de Musk. O ambiente construído é feito por humanos, para humanos. E como Musk argumentou no anúncio do Tesla Bot, tecnologias avançadas de sucesso terão que aprender a navegá-lo da mesma maneira que as pessoas.

Ainda assim, os carros e robôs de Tesla são meramente os produtos visíveis de um plano muito mais amplo voltado para a criação de um futuro onde tecnologias avançadas libertem os humanos de nossas raízes biológicas, combinando biologia e tecnologia. Como um pesquisador que estuda o desenvolvimento ético e socialmente responsável e o uso de tecnologias emergentes, Acho que esse plano levanta preocupações que transcendem os medos especulativos de ficção científica de robôs superinteligentes.

Um homem com grandes planos

Carros autônomos, Foguetes interplanetários e interfaces cérebro-máquina são passos em direção ao futuro que Musk imagina, onde a tecnologia é o salvador da humanidade. Neste futuro, a energia será barata, abundante e sustentável; as pessoas trabalharão em harmonia com máquinas inteligentes e até mesmo se fundirão com elas; e os humanos se tornarão uma espécie interplanetária.

É um futuro que, a julgar pelos vários esforços de Musk, será construído em um conjunto de tecnologias subjacentes interconectadas que incluem sensores, atuadores, infraestruturas de energia e dados, integração de sistemas e avanços substanciais no poder do computador. Juntos, eles constituem uma caixa de ferramentas formidável para a criação de tecnologias transformadoras.

Musk imagina os humanos, em última análise, transcendendo nossa herança evolutiva por meio de tecnologias que estão além do humano, ou "super" humano. Mas antes que a tecnologia se torne sobre-humana, primeiro precisa ser humano - ou pelo menos ser projetado para prosperar em um mundo projetado por humanos.

Esta abordagem de tecnologia mais humana para a inovação é o que sustenta as tecnologias nos carros da Tesla, incluindo o uso extensivo de câmeras ópticas. Esses, quando conectado a um cérebro de IA, "destinam-se a ajudar os veículos a navegar autonomamente em sistemas rodoviários que são, nas palavras de Musk, "projetado para redes neurais biológicas com imageadores ópticos" - em outras palavras, pessoas. Nas palavras de Musk, é um pequeno passo de "robôs sobre rodas" de inspiração humana para robôs com pernas semelhantes a humanos.

Mais fácil falar do que fazer

A tecnologia de "condução totalmente autônoma" da Tesla, que inclui o piloto automático com o nome duvidoso, é um ponto de partida para os desenvolvedores do Tesla Bot. Por mais impressionante que seja essa tecnologia, está provando ser menos do que totalmente confiável. Colisões e fatalidades associadas ao modo de piloto automático do Tesla - o último relacionado aos algoritmos que lutam para reconhecer veículos de emergência estacionados - estão questionando a sabedoria de liberar a tecnologia tão cedo.

Esse histórico não é um bom presságio para robôs semelhantes aos humanos que contam com a mesma tecnologia. No entanto, não se trata apenas de acertar na tecnologia. As falhas do piloto automático do Tesla são exacerbadas pelo comportamento humano. Por exemplo, alguns motoristas da Tesla trataram seus carros com tecnologia avançada como se fossem veículos totalmente autônomos e não prestaram atenção suficiente à direção. Poderia algo semelhante acontecer com o Tesla Bot?

'Riscos órfãos' do Tesla Bot

No meu trabalho sobre inovação tecnológica socialmente benéfica, Estou especialmente interessado em riscos órfãos - riscos que são difíceis de quantificar e fáceis de ignorar e, ainda assim, inevitavelmente acabam atrapalhando os inovadores. Meus colegas e eu trabalhamos com empreendedores e outras pessoas para navegar por esses tipos de desafios por meio do Risk Innovation Nexus, uma iniciativa do Instituto de Empreendedorismo + Inovação Orin Edson da Arizona State University e do Laboratório de Futuros Globais.

O Tesla Bot vem com um portfólio completo de riscos órfãos. Isso inclui possíveis ameaças à privacidade e autonomia conforme o bot coleta, compartilha e age com base em informações potencialmente sensíveis; desafios associados a como as pessoas tendem a pensar e responder aos robôs humanóides; desalinhamentos potenciais entre perspectivas éticas ou ideológicas - por exemplo, no controle do crime ou no policiamento de protestos civis; e mais. Esses são desafios que raramente são abordados no treinamento que os engenheiros recebem, e, no entanto, esquecê-los pode significar um desastre.

Embora o Tesla Bot possa parecer benigno - ou até mesmo uma piada - se for benéfico e também comercialmente bem-sucedido, seus desenvolvedores, investidores, futuros consumidores e outros precisam fazer perguntas difíceis sobre como isso pode ameaçar o que é importante para eles e como lidar com essas ameaças.

Essas ameaças podem ser tão específicas quanto pessoas fazendo modificações não autorizadas que aumentam o desempenho do robô - fazendo-o se mover mais rápido do que seus projetistas pretendiam, por exemplo - sem pensar sobre os riscos, ou tão geral quanto a tecnologia sendo transformada em armas de novas maneiras. Eles também são tão sutis quanto a forma como um robô humanóide pode ameaçar a segurança do emprego, ou como um robô que inclui sistemas de vigilância avançados pode prejudicar a privacidade.

Depois, há os desafios do viés tecnológico que tem atormentado a IA por algum tempo, especialmente quando leva a um comportamento aprendido que acaba sendo altamente discriminatório. Por exemplo, Algoritmos de IA produziram resultados sexistas e racistas.

Só porque podemos, Nós deveríamos?

O Tesla Bot pode parecer um pequeno passo em direção à visão de Musk de tecnologias sobre-humanas, e um que é fácil de descrever como pouco mais do que exibicionismo arrogante. Mas os planos audaciosos que o sustentam são sérios - e levantam questões igualmente sérias.

Por exemplo, quão responsável é a visão de Musk? Só porque ele pode trabalhar para criar o futuro de seus sonhos, quem disse que ele deveria? É o futuro que Musk está se esforçando para trazer o melhor para a humanidade, ou mesmo um bom? E quem sofrerá as consequências se as coisas derem errado?

Essas são as preocupações mais profundas que o Tesla Bot levanta para mim como alguém que estuda e escreve sobre o futuro e como nossas ações o impactam. Isso não quer dizer que o Tesla Bot não seja uma boa ideia, ou que Elon Musk não deveria ser capaz de flexionar seus músculos construtores de futuro. Usado da maneira certa, são ideias e tecnologias transformadoras que podem abrir um futuro cheio de promessas para bilhões de pessoas.

Mas se os consumidores, investidores e outros ficam deslumbrados com o brilho da nova tecnologia ou desdenham o hype e não conseguem ver o quadro geral, a sociedade corre o risco de entregar o futuro a inovadores ricos, cuja visão excede sua compreensão. Se suas visões do futuro não se alinham com o que a maioria das pessoas aspira, ou são catastroficamente falhos, correm o risco de impedir a construção de um futuro justo e eqüitativo.

Talvez esta seja a lição permanente de filmes distópicos de ficção científica do futuro robô que as pessoas deveriam estar aprendendo enquanto o Tesla Bot se move da ideia para a realidade - não as preocupações mais óbvias de criar robôs humanóides que fogem do controle, mas o desafio muito maior de decidir quem imagina o futuro e participa de sua construção.

Este artigo foi republicado de A conversa sob uma licença Creative Commons. Você pode encontrar o artigo original aqui .

Andrew Maynard é reitor associado do College of Global Futures da Arizona State University.