Em meados de julho de 2019, Oakland, Califórnia, tornou-se a terceira cidade dos EUA a proibir departamentos municipais de usar tecnologia de reconhecimento facial. Enquanto isso, O Congresso iniciou audiências sobre se e como regulamentá-lo em nível nacional. Em um momento surpreendente de consenso bipartidário, a única coisa sobre a qual os legisladores brigaram foi até que ponto as restrições deveriam ser extensas.

Esta resposta a um poderoso, a tecnologia potencialmente invasiva é um sinal de como o público e os legisladores podem responder aos desenvolvimentos tecnológicos futuros - especialmente aqueles que usam inteligência artificial. O reconhecimento facial não só permite que o Facebook automatize a marcação de pessoas nas fotos, mas também aumenta a capacidade da aplicação da lei de rastrear suspeitos de crimes. Abundam as questões éticas. Como disse o Centro de Privacidade e Tecnologia de Georgetown, o reconhecimento facial pode levar a "um mundo onde, uma vez que você colocou os pés lá fora, o governo pode rastrear cada movimento seu. "E é apenas o começo.

No horizonte está uma enxurrada de inovações digitais que podem ser pelo menos tão poderosas, abrangente e polêmico:vídeos "deepfake" mostrando pessoas fazendo coisas que nunca fizeram, a "internet das coisas" monitorando constantemente residências particulares, realidade virtual manipulativa, carros autônomos que dominam comunidades e muito mais.

Sou um pesquisador que estuda os impactos sociais da tecnologia digital, e é meu trabalho manter-me informado sobre as tecnologias que estão por vir e projetar resultados futuros. Mas, com mais e mais inovação, há cada vez menos tempo para refletir sobre as consequências. Muitos de meus colegas sentem o mesmo.

Para domar esta maré crescente, a sociedade precisa de represas e diques. Assim como começou a acontecer com o reconhecimento facial, é hora de considerar proibições legais e moratórias em outras tecnologias emergentes. Estes não precisam ser permanentes ou absolutos, mas a inovação não é um bem absoluto. Quanto mais poderosa for uma tecnologia, mais cuidado é necessário para operar com segurança.

Pouca urgência

Não há uma necessidade urgente para a maioria das novas tecnologias digitais. Algumas inovações, claro, são quase completamente positivos:anestesia, luz elétrica, rádio, vacinas. Mas a sociedade de hoje muitas vezes celebra a inovação por si mesma, mesmo quando os benefícios são questionáveis ​​- e cada vez mais, os benefícios são realmente questionáveis.

Vale realmente a pena lotar, céu agitado cheio de drones para a entrega de bens de consumo em uma hora, em vez de entrega em 24 horas, ou mesmo dois dias? A realidade virtual é tão boa que as crianças deveriam, efetivamente, crescer com os olhos grudados nas telas de vídeo? Quando os governos podem conduzir assassinatos difíceis de rastrear por drones, alguém está realmente seguro? A verificação de listas de possíveis tecnologias futuras pode incitar mais medo do que esperança.

Esses tipos de inovações falham repetidamente em fornecer melhorias gerais de maneiras verdadeiramente significativas, como o quão profundamente as pessoas se amam, com que compaixão as pessoas se importam, quão bem a sociedade apóia os menos privilegiados, ou com que sabedoria os humanos administram o planeta. Se alguma coisa, a tecnologia parece amplificar as fraquezas morais dos humanos ao mimar as pessoas com confortos de consumo e câmaras de eco. O último meio século viu uma era de ouro da inovação digital, no entanto, as taxas de pobreza estagnaram, a desigualdade aumentou e a sustentabilidade parece mais fora de alcance.

A maioria dos avanços tecnológicos em andamento hoje não resolverá esses problemas; eles resolverão aborrecimentos menores que simplesmente não há pressa em aliviar.

Prejudica quase certo, mas pouco claro

As novas tecnologias sempre têm consequências não intencionais - muitas vezes negativas - e os inovadores sempre subestimam o quão ruins eles serão. Os pesticidas têm causado flagelos à saúde pública. Garrafas de plástico poluíram os oceanos. Os smartphones estão contribuindo para uma crise de saúde mental na adolescência.

Considere o que um sistema de IA pode fazer se direcionado para fazer algo óbvio, como maximizar os lucros, utilizando todas as informações e ferramentas à sua disposição. Ele pode conter informações pessoais embaraçosas como resgate para coagir os usuários a comprar mercadorias, ou extorquir ações criminosas de pessoas com segredos mais sombrios.

Nada ainda impediu que os algoritmos das lojas online mentissem para aumentar as vendas, nem restringiu a capacidade real do Facebook de manipular o humor dos usuários. As empresas de tecnologia tratam rotineiramente seus clientes como cobaias experimentais, e já estão aplicando sistemas de inteligência artificial para uma série de propósitos.

Se esses forem apenas os efeitos conhecidos das empresas de tecnologia; esforços e inovações, imagine quais consequências não intencionais podem surgir. A premissa do popular jogo “Universal Paperclips” é que uma IA focada na otimização de um negócio acaba destruindo o universo conhecido. A ficção científica está rapidamente se tornando um fato científico.

Difícil voltar para trás

Uma vez desencadeado, as tecnologias digitais são gênios particularmente difíceis de colocar de volta na garrafa. A este respeito, eles diferem de outras tecnologias avançadas. Logo após a Segunda Guerra Mundial, ativistas começaram a pedir a proibição de armas nucleares, culminando no Tratado de Não Proliferação em 1970. O tratado foi eficaz em manter uma tecnologia de 80 anos limitada a apenas oito ou nove países - isso é um feito impressionante, especialmente em toda a história irregular da política global.

Armas nucleares, Contudo, requerem recursos significativos para projetar, construir, teste e implante. Por contraste, as tecnologias digitais são fáceis de compartilhar, tornando-os ainda mais difíceis de controlar. Ferramentas avançadas de hacking foram roubadas e compartilhadas online:técnicas desenvolvidas pela Agência de Segurança Nacional dos EUA foram usadas em ataques cibernéticos globais pela China, Rússia e Coréia do Norte. Seu software agora está disponível para qualquer pessoa com uma conexão à Internet.

Um desequilíbrio de poder

As empresas de tecnologia que promovem seus avanços têm dinheiro, influência e tempo do seu lado. Os milhões de dólares de lobby que gastam são alguns trocados em comparação com seus lucros de bilhões de dólares, e podem manter o financiamento indefinidamente, esperando ciclos de notícias e energia ativista.

Na minha opinião, a incerteza sobre como as novas tecnologias afetarão a sociedade em geral significa que as forças céticas merecem mais apoio. Proibições e moratórias significariam que ricos, entidades poderosas teriam que buscar permissão legal e social antes de lançar seus monstros em potencial no mercado. Isso não parece pedir muito.

Existem muitas razões para continuar a construir novas tecnologias - para se manter competitivo globalmente, para promover o conhecimento humano e para se preparar para potenciais crises futuras. A tecnologia tem seus benefícios. Mas desacelerar o ritmo de seu avanço daria à sociedade mais tempo para pensar sobre as consequências e debater quais aspectos das novas tecnologias são desejáveis, e que deveria ser banido.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.