p Filmes como 2001:Uma Odisséia no Espaço , Blade Runner e O Exterminador trouxemos robôs e sistemas de computador desonestos às nossas telas de cinema. Mas hoje em dia, esses espetáculos clássicos de ficção científica não parecem tão distantes da realidade. p Cada vez mais, vivemos, trabalhe e divirta-se com tecnologias computacionais autônomas e inteligentes. Esses sistemas incluem software e hardware com capacidade de raciocínio e tomada de decisões independentes. Eles trabalham para nós no chão de fábrica; eles decidem se podemos obter uma hipoteca; eles rastreiam e medem nossos níveis de atividade e condicionamento físico; eles limpam o chão da nossa sala de estar e cortam nossos gramados.

p Sistemas autônomos e inteligentes têm o potencial de afetar quase todos os aspectos de nossa vida social, econômico, vida política e privada, incluindo aspectos cotidianos mundanos. Muito disso parece inocente, mas há motivo para preocupação. As tecnologias computacionais impactam todos os direitos humanos, do direito à vida ao direito à privacidade, liberdade de expressão aos direitos sociais e econômicos. Então, como podemos defender os direitos humanos em um cenário tecnológico cada vez mais moldado pela robótica e inteligência artificial (IA)?

p IA e direitos humanos

p Primeiro, existe um medo real de que o aumento da autonomia da máquina minará o status dos humanos. Esse medo é agravado pela falta de clareza sobre quem será responsabilizado, seja no sentido legal ou moral, quando máquinas inteligentes causam danos. Mas não tenho certeza de que o foco de nossa preocupação com os direitos humanos deva realmente estar nos robôs desonestos, como parece no momento. Em vez, devemos nos preocupar com o uso humano de robôs e inteligência artificial e sua implantação em políticas injustas e desiguais, militares, contextos econômicos e sociais.

p Esta preocupação é particularmente pertinente com relação aos sistemas de armas autônomas letais (LEIS), frequentemente descritos como robôs assassinos. À medida que avançamos em direção a uma corrida armamentista de IA, estudiosos de direitos humanos e ativistas, como Christof Heyns, o ex-relator especial da ONU para assuntos extrajudiciais, execuções sumárias ou arbitrárias, temem que o uso de LEIS coloque os sistemas robóticos autônomos no comando das decisões de vida ou morte, com controle humano limitado ou nenhum.

p A IA também revoluciona a ligação entre a guerra e as práticas de vigilância. Grupos como o International Committee for Robot Arms Control (ICRAC) expressaram recentemente sua oposição à participação do Google no Projeto Maven, um programa militar que usa aprendizado de máquina para analisar imagens de vigilância de drones, que pode ser usado para execuções extrajudiciais. O ICRAC apelou ao Google para garantir que os dados que coleta de seus usuários nunca sejam usados ​​para fins militares, juntando-se aos protestos dos funcionários do Google sobre o envolvimento da empresa no projeto. O Google anunciou recentemente que não renovará seu contrato.

p Em 2013, a extensão das práticas de vigilância foi destacada pelas revelações de Edward Snowden. Isso nos ensinou muito sobre a ameaça ao direito à privacidade e o compartilhamento de dados entre os serviços de inteligência, agências governamentais e empresas privadas. A recente polêmica em torno da coleta de dados pessoais da Cambridge Analytica por meio do uso de plataformas de mídia social como o Facebook continua a causar sérias apreensões, desta vez devido à manipulação e interferência em eleições democráticas que prejudicam o direito à liberdade de expressão.

p Enquanto isso, analistas de dados críticos desafiam as práticas discriminatórias associadas ao que eles chamam de "problema do homem branco" da IA. Esta é a preocupação de que os sistemas de IA treinados em dados existentes reproduzam os estereótipos raciais e de gênero existentes que perpetuam práticas discriminatórias em áreas como o policiamento, decisões judiciais ou de emprego.

p Bots ambíguos

p A ameaça potencial das tecnologias computacionais aos direitos humanos e físicos, a segurança política e digital foi destacada em um estudo publicado recentemente sobre o uso malicioso de inteligência artificial. As preocupações expressas neste relatório da Universidade de Cambridge devem ser levadas a sério. Mas como devemos lidar com essas ameaças? Os direitos humanos estão prontos para a era da robótica e da IA?

p Há esforços contínuos para atualizar os princípios de direitos humanos existentes para esta época. Estes incluem os Princípios Orientadores e Estruturais da ONU sobre Negócios e Direitos Humanos, tenta escrever uma Carta Magna para a era digital e os Princípios Asilomar AI do Instituto do Futuro da Vida, que identificam diretrizes para pesquisas éticas, adesão a valores e um compromisso com o desenvolvimento benéfico de IA de longo prazo.

p Esses esforços são louváveis, mas não suficientes. Governos e agências governamentais, partidos políticos e empresas privadas, especialmente as principais empresas de tecnologia, deve se comprometer com os usos éticos da IA. Também precisamos de um controle legislativo eficaz e obrigatório.

p Quaisquer que sejam as novas medidas que apresentamos, é importante reconhecer que nossas vidas estão cada vez mais emaranhadas com máquinas autônomas e sistemas inteligentes. Este emaranhado aumenta o bem-estar humano em áreas como pesquisa e tratamento médico, em nosso sistema de transporte, em ambientes de assistência social e em esforços para proteger o meio ambiente.

p Mas, em outras áreas, esse emaranhamento gera perspectivas preocupantes. As tecnologias computacionais são usadas para observar e rastrear nossas ações e comportamentos, rastreie nossos passos, nossa localização, nossa saude, nossos gostos e nossas amizades. Esses sistemas moldam o comportamento humano e nos levam a práticas de autovigilância que restringem nossa liberdade e minam as idéias e ideais dos direitos humanos.

p E aqui está o ponto crucial:a capacidade de uso dual de tecnologias computacionais confunde a linha entre as práticas benéficas e maliciosas. O que mais, as tecnologias computacionais estão profundamente implicadas nas relações desiguais de poder entre os cidadãos individuais, o estado e suas agências, e empresas privadas. Se desvinculado de sistemas nacionais e internacionais eficazes de freios e contrapesos, eles representam uma ameaça real e preocupante aos nossos direitos humanos. p Este artigo foi publicado originalmente em The Conversation. Leia o artigo original.