O Congresso está começando a mostrar interesse em forçar a abertura da "caixa preta" da inteligência artificial das empresas de tecnologia com supervisão semelhante à forma como o governo federal verifica sob o capô dos carros e audita bancos.

Uma proposta apresentada na quarta-feira e co-patrocinada por um candidato presidencial democrata, Sen. Cory Booker, exigiria que grandes empresas testassem a "responsabilidade algorítmica" de seus sistemas de IA de alto risco, como a tecnologia que detecta rostos ou toma decisões importantes com base em seus dados pessoais mais confidenciais.

"Os computadores estão cada vez mais envolvidos em muitas das principais decisões que os americanos tomam em relação à sua vida diária - se alguém pode comprar uma casa, conseguir um emprego ou mesmo ir para a cadeia, "O senador Ron Wyden disse em uma entrevista à The Associated Press. O democrata de Oregon está co-patrocinando o projeto de lei.

"Quando as empresas realmente se dedicam a isso, eles vão procurar viés em seus sistemas, "Wyden disse." Eu acho que eles vão encontrar muito.

A proposta dos democratas é a primeira de seu tipo, e pode enfrentar uma batalha difícil no Senado liderado pelos republicanos. Mas reflete o crescente - e bipartidário - escrutínio da economia de dados amplamente não regulamentada - tudo, desde feeds de mídia social, corretoras de dados online, algoritmos financeiros e software autônomo que estão impactando cada vez mais a vida diária. Um projeto de lei bipartidário do Senado apresentado no mês passado exigiria que as empresas notificassem as pessoas antes de usar software de reconhecimento facial nelas, ao mesmo tempo que exige testes de terceiros para verificar se há problemas de polarização.

Estudos acadêmicos e exemplos da vida real revelaram sistemas de reconhecimento facial que identificam erroneamente mulheres de pele mais escura, ferramentas de empréstimo computadorizadas que cobram taxas de juros mais altas de tomadores latinos e negros, e ferramentas de recrutamento de empregos que favorecem os homens em setores onde eles já dominam.

"Existe o mito de que os algoritmos são neutros, coisas objetivas, "disse Aaron Rieke, diretor administrativo do grupo de defesa Upturn. "O aprendizado de máquina adota padrões na sociedade - quem faz o quê, quem compra o que, ou quem tem que trabalho. Esses são padrões moldados por problemas com os quais temos lutado há décadas. "

A administração do presidente Donald Trump também está notando e fez do desenvolvimento de algoritmos "seguros e confiáveis" um dos principais objetivos da nova iniciativa de IA da Casa Branca. Mas o faria principalmente com o fortalecimento de um processo existente, dirigido pela indústria, de criação de padrões tecnológicos.

"É necessário maior transparência e comparabilidade de dados, "e para detectar e reduzir o viés nesses sistemas, disse o subsecretário de Comércio Walter Copan, que dirige o Instituto Nacional de Padrões e Tecnologia. "Os consumidores estão essencialmente voando às cegas."

Dezenas de desenvolvedores de reconhecimento facial, incluindo empresas de marca como a Microsoft, no ano passado, apresentou seus algoritmos proprietários à agência do Copan para que pudessem ser avaliados e comparados entre si. Os resultados mostraram ganhos significativos de precisão em relação aos anos anteriores.

Mas Wyden disse que os padrões voluntários não são suficientes.

"A autorregulação claramente falhou aqui, " ele disse.

Em um movimento mais ousado da administração Trump, o Departamento Federal de Habitação e Desenvolvimento Urbano acusou o Facebook de permitir que proprietários e corretores de imóveis excluíssem sistematicamente grupos como não-cristãos, imigrantes e minorias de ver anúncios de casas e apartamentos.

Booker, em uma declaração sobre sua conta, disse que embora a ação do HUD no Facebook seja uma etapa importante, é necessário cavar mais fundo para abordar as "formas perniciosas" que a discriminação opera em plataformas de tecnologia, às vezes sem querer.

Booker disse que algoritmos tendenciosos estão causando o mesmo tipo de práticas imobiliárias discriminatórias que buscavam afastar seus pais de Nova Jersey e outros casais negros de certos bairros dos EUA no final dos anos 1960. Desta vez, ele disse, é mais difícil de detectar e lutar.

O projeto de lei que ele e Wyden apresentaram permitiria à Federal Trade Commission definir e aplicar novas regras para que as empresas verifiquem a precisão, preconceito e potenciais questões de privacidade ou segurança em seus sistemas automatizados, e corrija-os se forem encontrados problemas. Isenta empresas menores que ganham menos de US $ 50 milhões por ano, a menos que sejam corretores de dados com informações sobre pelo menos 1 milhão de consumidores.

Yvette Clarke, deputada democrata de Nova York, que está apresentando um projeto de lei complementar na Câmara, disse que o objetivo é consertar os problemas, não apenas para avaliá-los. Ela disse que faz sentido dar à FTC autoridade para monitorar regularmente o desempenho desses sistemas porque ela "tem o controle do que está acontecendo com os consumidores".

© 2019 Associated Press. Todos os direitos reservados.