As empresas em quase todos os setores implementam inteligência artificial para tornar os trabalhos mais simples para os funcionários e as tarefas mais fáceis para os consumidores.

O software de computador ensina os agentes de atendimento ao cliente como ser mais compassivos, as escolas usam o aprendizado de máquina para verificar se há armas e atiradores em massa no campus, e os médicos usam IA para mapear a causa raiz das doenças.

Setores como segurança cibernética, o entretenimento online e o varejo usam a tecnologia em combinação com amplas faixas de dados do cliente de maneiras revolucionárias para agilizar os serviços.

Embora esses aplicativos possam parecer inofensivos, talvez até útil, a IA é tão boa quanto as informações nela inseridas, o que pode ter implicações sérias.

Você pode não perceber, mas o AI ajuda a determinar se você se qualifica para um empréstimo em alguns casos. Existem produtos em andamento que podem fazer com que os policiais o parem porque o software o identificou como outra pessoa.

Imagine se as pessoas na rua pudessem tirar uma foto sua, em seguida, um computador digitalizou um banco de dados para contar a eles tudo sobre você, ou se a câmera de segurança de um aeroporto sinalizou seu rosto enquanto um bandido passava pela TSA.

Essas são possibilidades do mundo real quando a tecnologia que supostamente reforça a conveniência tem preconceito humano embutido na estrutura.

"A inteligência artificial é uma ferramenta superpoderosa, e como qualquer ferramenta realmente poderosa, pode ser usado para fazer muitas coisas - algumas das quais são boas e outras podem ser problemáticas, "disse Eric Sydell, vice-presidente executivo de inovação da Shaker International, que desenvolve software habilitado para IA.

"Nos estágios iniciais de qualquer nova tecnologia como esta, você vê muitas empresas tentando descobrir como trazer isso para seus negócios, "Sydell disse, "e alguns estão fazendo isso melhor do que outros."

Inteligência artificial tende a ser um termo genérico para descrever tarefas realizadas por um computador que normalmente exigiria um ser humano, como reconhecimento de fala e tomada de decisão.

Quer seja intencional ou não, humanos fazem julgamentos que podem transbordar para o código criado para a IA seguir. Isso significa que a IA pode conter racial implícito, preconceitos de gênero e ideológicos, o que levou a uma série de esforços regulatórios federais e estaduais.

Justiça Criminal

Em junho, Representante Don Beyer, D-Va., ofereceu duas emendas a um projeto de lei de verbas da Câmara que evitaria que fundos federais cobrissem a tecnologia de reconhecimento facial pela aplicação da lei e exigiria que a National Science Foundation apresentasse um relatório ao Congresso sobre os impactos sociais da IA.

"Não acho que devamos proibir todos os dólares federais de fazer toda IA. Só temos que fazer isso com cuidado, "Beyer disse aos EUA TODAY. Ele disse que o software de reconhecimento facial e de aprendizagem por computador pode permitir que a polícia identifique alguém falsamente, levando um policial a pegar uma arma em casos extremos.

"Acho que muito em breve pediremos a proibição do uso de tecnologia de reconhecimento facial em câmeras corporais por causa das preocupações em tempo real, "Beyer disse." Quando os dados são imprecisos, pode fazer com que a situação fique fora de controle. "

AI é usado em análises preditivas, em que um computador revela a probabilidade de uma pessoa cometer um crime. Embora não seja tanto quanto as unidades policiais "pré-crime" do sucesso de ficção científica de Tom Cruise "Minority Report, "a técnica tem enfrentado escrutínio para saber se melhora a segurança ou simplesmente perpetua as desigualdades.

Os americanos expressaram apoio misto de aplicativos de IA, e a maioria (82%) concorda que deve ser regulamentado, de acordo com um estudo deste ano do Centro para a Governança da IA ​​e do Instituto Futuro da Humanidade da Universidade de Oxford.

Quando se trata de reconhecimento facial, especificamente, Os americanos dizem que as agências de aplicação da lei farão bom uso da tecnologia.

Empregos

Numerosos estudos sugerem que a automação destruirá empregos para humanos. Por exemplo, Os acadêmicos de Oxford Carl Benedikt Frey e Michael Osborne estimaram que 47% dos empregos americanos estão sob alto risco de automação em meados da década de 2030.

Enquanto os trabalhadores se preocupam em serem deslocados por computadores, outros são contratados graças ao software habilitado para AI.

A tecnologia pode combinar funcionários que possuem o conjunto de habilidades ideais para um ambiente de trabalho específico com empregadores que podem estar muito ocupados para que os humanos selecionem os candidatos.

A Shaker International usa dados coletados em testes, entrevistas em áudio e currículos para prever como uma pessoa pode se comportar no trabalho.

"Pedaços significativos" de informação incluem "como uma pessoa vai trabalhar, quanto tempo eles vão ficar, eles terão um desempenho de vendas superior ou um trabalhador de alta qualidade, "Sydell disse.

Usando IA, "podemos nos livrar de processos que não funcionam bem ou são redundantes. E podemos oferecer aos candidatos uma experiência melhor, dando-lhes feedback em tempo real durante todo o processo, "Sydell disse.

Ele disse que se a IA for mal implantada, pode piorar o ambiente de trabalho, mas se for feito com atenção, pode levar a locais de trabalho mais justos.

Finança

Para melhor ou pior, a inteligência artificial afeta as decisões financeiras que as pessoas tomam, e tem feito isso por anos. Ele desempenha um papel cada vez mais significativo na forma como os traders investem, e é particularmente eficaz na prevenção de fraude de cartão de crédito, especialistas disseram.

As coisas ficam questionáveis ​​quando a tecnologia é usada para decidir se você merece tomar dinheiro emprestado em um banco.

"Sempre que você solicita um empréstimo, pode haver IA para descobrir se esse empréstimo deve ser dado ou não, "disse Kunal Verma, co-fundador da AppZen, uma plataforma de IA para equipes financeiras com clientes, incluindo WeWork e Amazon.

A tecnologia é frequentemente apresentada como uma avaliação mais rápida e precisa de um potencial tomador de empréstimo, pois pode filtrar toneladas de dados em segundos. Contudo, há espaço para erros.

Se as informações fornecidas em um algoritmo mostrarem que você mora em uma área onde muitas pessoas deixaram de pagar seus empréstimos, o sistema pode determinar que você não é confiável, Disse Verma.

“Também pode acontecer que a área tenha muitas pessoas de certas minorias ou outras características que podem levar a um viés no algoritmo, "Disse Verma.

Soluções para preconceito

O preconceito pode se insinuar em quase todos os estágios do processo de aprendizado profundo; Contudo, os algoritmos também podem ajudar a reduzir as disparidades causadas pelo mau julgamento humano.

Um tipo de solução envolve a alteração de atributos confidenciais em um conjunto de dados para compensar o resultado. Outra é a pré-seleção de dados para manter a precisão. De qualquer jeito, quanto mais dados uma empresa tem, mais justa a IA pode ser, Sydell disse.

"Há uma razão pela qual o Google, Facebook e Amazon são líderes em IA, "Disse Sydell." É porque eles têm toneladas de dados para processar. Outras empresas têm acesso ao mesmo tipo de tecnologia de IA, mas eles podem não ter grandes quantidades de dados para usar e aplicar. Essa é a pedra de tropeço. "

Beyer, o político que quer regular a IA, é a favor de que os humanos verifiquem novamente as decisões feitas por computadores "até que a tecnologia seja perfeita, se alguma vez for. "

Ele disse que pode valer a pena questionar se a IA deve ser a solução ideal para todos os problemas, incluindo se alguém vai para a prisão.

"E quando é perfeito, temos que começar a pensar sobre privacidade. Gostar, é razoável tirar uma foto de alguém e examiná-la em um banco de dados? ", disse Beyer." Se a IA pode ler um raio-X muito mais rapidamente, com muito mais precisão e menos preconceito do que um humano, Isso é terrível. Se dermos à IA a capacidade de declarar guerra, estamos com um grande problema. "

(c) 2019 EUA hoje
Distribuído pela Tribune Content Agency, LLC.