Não contente em monitorar quase tudo que você faz online, O Facebook agora quer ler sua mente também. A gigante da mídia social anunciou recentemente um avanço em seu plano de criar um dispositivo que lê as ondas cerebrais das pessoas para permitir que elas digitem apenas pensando. E Elon Musk quer ir ainda mais longe. Uma das outras empresas do chefe da Tesla, Neuralink, está desenvolvendo um implante cerebral para conectar a mente das pessoas diretamente a um computador.

Musk admite que se inspira na ficção científica, e que ele quer ter certeza de que os humanos podem "acompanhar" a inteligência artificial. Ele parece ter perdido a parte da ficção científica que atua como um alerta para as implicações da tecnologia.

Esses sistemas de leitura da mente podem afetar nossa privacidade, segurança, identidade, igualdade e segurança pessoal. Queremos realmente tudo o que resta para empresas com filosofias como a do antigo mantra do Facebook, "mova-se rápido e quebre as coisas"?

Embora pareçam futuristas, as tecnologias necessárias para fazer dispositivos de leitura de ondas cerebrais não são tão diferentes das ferramentas de neurociência de MRI (imagem por ressonância magnética) e EEG (eletroencefalografia) usadas em hospitais em todo o mundo. Você já pode comprar um kit para controlar um drone com a mente, então usar um para digitar palavras é, em algumas formas, não é muito um salto. O avanço provavelmente será devido ao uso do aprendizado de máquina para filtrar grandes quantidades de dados coletados de nossos cérebros e encontrar os padrões na atividade dos neurônios que ligam os pensamentos a palavras específicas.

É provável que um implante cerebral leve muito mais tempo para se desenvolver, e é importante separar as conquistas reais do Neuralink do exagero e promoção da mídia. Mas Neuralink fez melhorias simultâneas em materiais para eletrodos e cirurgia assistida por robô para implantá-los, empacotando a tecnologia de forma organizada para que possa ser lida via USB.

Os planos do Facebook e do Neuralink podem se basear na prática médica estabelecida. Mas quando as empresas estão coletando pensamentos diretamente de nossos cérebros, as questões éticas são muito diferentes.

Qualquer sistema que possa coletar dados diretamente de nossos cérebros tem riscos claros de privacidade. Privacidade é consentimento. Mas é muito difícil dar o consentimento adequado se alguém está entrando diretamente em nossos pensamentos. As empresas (e governos) do Vale do Silício já coletam clandestinamente o máximo possível de dados sobre nós e os usam da maneira que preferiríamos que não o fizessem. Como podemos ter certeza de que nossos pensamentos aleatórios e pessoais não serão capturados e estudados junto com as instruções que queremos dar à tecnologia?

Discriminação e manipulação

Uma das questões éticas existentes com a coleta de dados é a discriminação com base em atributos como gênero ou raça que podem ser discernidos a partir dos dados. Fornecer uma janela para a mente das pessoas pode tornar mais fácil determinar outras coisas que podem formar a base do preconceito, como sexualidade ou ideologia política, ou mesmo formas diferentes de pensar que podem incluir coisas como autismo.

Com um sistema que se conecta diretamente ao seu cérebro, não só seus pensamentos poderiam ser roubados, mas também é possível que eles possam ser manipulados. A estimulação cerebral já está sendo desenvolvida para ajudar a tratar o PTSD e reduzir a violência. Há até alegações sensacionais de que ele pode ser usado para carregar conhecimento diretamente, assim como no filme Matrix.

Um passo previsível seria combinar as tecnologias "dentro" e "fora" para uma interface cérebro-computador bidirecional. O potencial para os governos nos tornarem mais compatíveis, para que os empregadores nos obriguem a trabalhar mais, ou o fato de as empresas nos fazerem querer mais de seus produtos mostra o quão seriamente devemos levar essa tecnologia.

Se os dispositivos de leitura da mente se tornarem a maneira normal de interagir com os computadores, podemos acabar com pouca escolha a não ser usá-los para manter o contato com colegas mais produtivos. (Imagine alguém hoje se candidatando a um emprego de escritório, mas se recusando a usar e-mail.) E se os implantes do tipo Neuralink se tornarem a norma, isso também pode levar a uma maior desigualdade, determinada pelo nível de kit que você poderia pagar para instalar.

Elon Musk afirmou que o enorme empréstimo necessário para pagar a cirurgia com Neuralink seria compensado por ganhos potenciais para o "avançado". A ideia de as pessoas se sentirem pressionadas a assumir dívidas enormes para fazer uma cirurgia só para manter o emprego vem direto de uma distopia de ficção científica.

Acima de tudo isso, está a ameaça física mais direta de ter sistemas se intrometendo fisicamente em nossos cérebros. Embora algumas pessoas possam querer modificar seu cérebro com uma interface de computador (já existem muitos biohackers experimentais), para implementá-lo em grande escala, seriam necessários testes extensivos e completos.

Dada a reputação (e tendência) do Vale do Silício para quebrar coisas em vez de parar para pensar sobre elas, esses sistemas precisarão de regulamentação rigorosa e análise ética antes mesmo do início dos testes. Caso contrário, corre o risco de criar cobaias humanas mutiladas.

Por tudo isso, pode haver enormes vantagens em continuar a pesquisa nesta área, particularmente para aqueles que sofrem de paralisia ou deficiência sensorial. Mas o Vale do Silício não deve ser capaz de ditar a maneira como essas tecnologias são desenvolvidas e implantadas. Se eles fizerem, pode remodelar radicalmente a maneira como nos identificamos como humanos.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.