O governo Biden divulgou na terça-feira um conjunto de metas de longo alcance destinadas a evitar danos causados ​​pelo aumento dos sistemas de inteligência artificial, incluindo diretrizes sobre como proteger os dados pessoais das pessoas e limitar a vigilância.
O Blueprint for an AI Bill of Rights notavelmente não estabelece ações específicas de fiscalização, mas, em vez disso, pretende ser um apelo à ação da Casa Branca para que o governo dos EUA proteja os direitos digitais e civis em um mundo alimentado por IA, disseram autoridades.

"Este é o governo Biden-Harris realmente dizendo que precisamos trabalhar juntos, não apenas em todo o governo, mas em todos os setores, para realmente colocar a equidade no centro e os direitos civis no centro das maneiras que fazemos e usamos e governam as tecnologias", disse Alondra Nelson, vice-diretora de ciência e sociedade do Escritório de Política Científica e Tecnológica da Casa Branca. "Podemos e devemos esperar melhor e exigir melhor de nossas tecnologias."

O escritório disse que o white paper representa um grande avanço na agenda do governo para responsabilizar as empresas de tecnologia e destacou os compromissos de várias agências federais em avaliar novas regras e estudar os impactos específicos das tecnologias de IA. O documento surgiu após uma consulta de um ano com mais de duas dúzias de departamentos diferentes e também incorpora comentários de grupos da sociedade civil, tecnólogos, pesquisadores do setor e empresas de tecnologia, incluindo Palantir e Microsoft.

Ele apresenta cinco princípios fundamentais que a Casa Branca diz que devem ser incorporados aos sistemas de IA para limitar os impactos do viés algorítmico, dar aos usuários controle sobre seus dados e garantir que os sistemas automatizados sejam usados ​​com segurança e transparência.

Os princípios não vinculativos citam pesquisas acadêmicas, estudos de agências e reportagens que documentaram danos no mundo real de ferramentas com inteligência artificial, incluindo ferramentas de reconhecimento facial que contribuíram para prisões injustas e um sistema automatizado que discriminou candidatos a empréstimos que participaram de um evento historicamente negro. Colégio ou universidade.

O white paper também disse que pais e assistentes sociais poderiam se beneficiar ao saber se as agências de bem-estar infantil estavam usando algoritmos para ajudar a decidir quando as famílias devem ser investigadas por maus-tratos.

No início deste ano, após a publicação de uma revisão da AP de uma ferramenta algorítmica usada em um sistema de bem-estar infantil da Pensilvânia, os funcionários da OSTP entraram em contato com as fontes citadas no artigo para saber mais, de acordo com várias pessoas que participaram da ligação. A investigação da AP descobriu que a ferramenta do condado de Allegheny em seus primeiros anos de operação mostrou um padrão de sinalizar um número desproporcional de crianças negras para uma investigação de negligência "obrigatória", quando comparada com crianças brancas.

In May, sources said Carnegie Mellon University researchers and staffers from the American Civil Liberties Union spoke with OSTP officials about child welfare agencies' use of algorithms. Nelson said protecting children from technology harms remains an area of concern.

"If a tool or an automated system is disproportionately harming a vulnerable community, there should be, one would hope, that there would be levers and opportunities to address that through some of the specific applications and prescriptive suggestions," said Nelson, who also serves as deputy assistant to President Joe Biden.

OSTP did not provide additional comment about the May meeting.

Still, because many AI-powered tools are developed, adopted or funded at the state and local level, the federal government has limited oversight regarding their use. The white paper makes no specific mention of how the Biden administration could influence specific policies at state or local levels, but a senior administration official said the administration was exploring how to align federal grants with AI guidance.

The white paper does not have power over tech companies that develop the tools nor does it include any new legislative proposals. Nelson said agencies would continue to use existing rules to prevent automated systems from unfairly disadvantaging people.

The white paper also did not specifically address AI-powered technologies funded through the Department of Justice, whose civil rights division separately has been examining algorithmic harms, bias and discrimination, Nelson said.

Tucked between the calls for greater oversight, the white paper also said when appropriately implemented, AI systems have the power to bring about lasting benefits to society, such as helping farmers grow food more efficiently or identifying diseases.

"Fueled by the power of American innovation, these tools hold the potential to redefine every part of our society and make life better for everyone. This important progress must not come at the price of civil rights or democratic values," the document said. + Explorar mais

White House proposes tech 'bill of rights' to limit AI harms

© 2022 The Associated Press. Todos os direitos reservados. Este material não pode ser publicado, transmitido, reescrito ou redistribuído sem permissão.