A inteligência artificial parece estar "ampliando a desigualdade, "e sua implantação deve estar sujeita a rígidos regulamentos e limites, especialmente para tecnologias sensíveis, como reconhecimento facial, um relatório de pesquisa disse quinta-feira.

O AI Now Institute, um centro da Universidade de Nova York estudando as implicações sociais da inteligência artificial, disse que, à medida que essas tecnologias se tornam amplamente implantadas, os impactos negativos estão começando a surgir.

O relatório de 93 páginas examinou as preocupações levantadas "pela gestão de trabalhadores habilitada para IA, às determinações algorítmicas de benefícios e serviços sociais, à vigilância e rastreamento de imigrantes e comunidades sub-representadas, "escreveram os pesquisadores.

"O que fica claro é que em diversos domínios e contextos, A IA está aumentando a desigualdade, colocar informações e controle nas mãos de quem já tem poder e enfraquecer ainda mais quem não tem. "

Os pesquisadores disseram que os sistemas de IA estão sendo implantados em áreas como saúde, Educação, emprego, justiça criminal "sem salvaguardas adequadas ou estruturas de responsabilização no local."

O relatório afirma que governos e empresas devem interromper o uso de reconhecimento facial "em contextos sociais e políticos sensíveis" até que os riscos sejam mais bem compreendidos, e esse subconjunto - "reconhecimento de afeto" ou a leitura de emoções pela tecnologia do computador - deve ser banido à luz de dúvidas sobre se funciona.

O reconhecimento de emoções "não deve ter um papel importante nas decisões importantes sobre as vidas humanas, como quem é entrevistado ou contratado para um trabalho, o preço do seguro, avaliações da dor do paciente, ou o desempenho do aluno na escola, "disse o relatório.

Também pediu que os trabalhadores de tecnologia "tenham o direito de saber o que estão construindo e de contestar os usos antiéticos ou prejudiciais de seu trabalho".

O relatório AI Now disse que as organizações médicas que usam tecnologias avançadas precisam implementar políticas de proteção de dados e permitir que as pessoas tenham oportunidades de "aprovação afirmativa" para se retirarem do estudo ou tratamento, e de pesquisas usando suas informações médicas.

Mais amplamente, os pesquisadores disseram que a indústria de IA precisa fazer "mudanças estruturais" para garantir que os algoritmos não reforcem o racismo, preconceito ou falta de diversidade.

"A indústria de IA é surpreendentemente homogênea, devido em grande parte ao seu tratamento com as mulheres, pessoas de cor, minorias de gênero, e outros grupos sub-representados, "disse o relatório.

Esforços para regular os sistemas de IA estão em andamento, mas "estão sendo superados pela adoção do governo de sistemas de IA para vigilância e controle, " De acordo com o relatório.

"Apesar da crescente preocupação pública e ação regulatória, o lançamento do reconhecimento facial e outras tecnologias de IA arriscadas quase não diminuíram, "escreveram os pesquisadores.

"Os chamados projetos de 'cidade inteligente' em todo o mundo estão consolidando o poder sobre a vida cívica nas mãos de empresas de tecnologia com fins lucrativos, encarregando-os de gerenciar recursos e informações críticas. "

© 2019 AFP