p O público não precisa saber como funciona a Inteligência Artificial para confiar nela. Eles só precisam saber que alguém com o conjunto de habilidades necessário está examinando IA e tem autoridade para aplicar sanções se isso causar ou tiver probabilidade de causar danos. p Dr. Bran Knowles, conferencista sênior em ciência de dados na Lancaster University, diz:"Tenho certeza de que o público é incapaz de determinar a confiabilidade de IAs individuais ... mas não precisamos que eles façam isso. Não é sua responsabilidade manter a IA honesta."

p Hoje (8 de março), o Dr. Knowles apresenta um artigo de pesquisa "A Sanção da Autoridade:Promovendo a Confiança Pública na IA" na Conferência ACM sobre Justiça, Responsabilidade e transparência (ACM FAccT).

p O artigo é coautor de John T. Richards, do T.J. da IBM Watson Research Center, Yorktown Heights, Nova york.

p O público em geral é, as notas de papel, muitas vezes desconfiam de IA, que decorre tanto da maneira como a IA tem sido retratada ao longo dos anos quanto de uma consciência crescente de que há pouca supervisão significativa sobre ela.

p Os autores argumentam que uma maior transparência e explicações mais acessíveis de como funcionam os sistemas de IA, percebido como um meio de aumentar a confiança, não trate das preocupações do público.

p Um 'ecossistema regulador, " eles dizem, é a única maneira de a IA prestar contas ao público de forma significativa, ganhando sua confiança.

p “O público não se preocupa rotineiramente com a confiabilidade dos alimentos, aviação, e farmacêuticos porque acreditam que existe um sistema que regula essas coisas e pune qualquer violação dos protocolos de segurança, "diz o Dr. Richards.

p E, acrescenta o Dr. Knowles:"Em vez de pedir que o público adquira habilidades para tomar decisões informadas sobre quais IAs são dignos de sua confiança, o público precisa das mesmas garantias de que qualquer IA que eles possam encontrar não lhes causará danos. "

p Ela enfatiza o papel crítico da documentação de IA para habilitar esse ecossistema regulatório confiável. Como um exemplo, o documento discute o trabalho da IBM em AI Factsheets, documentação projetada para capturar fatos importantes sobre o desenvolvimento e teste de uma IA.

p Mas, embora essa documentação possa fornecer as informações necessárias para auditores internos e reguladores externos para avaliar a conformidade com as estruturas emergentes para IA confiável, O Dr. Knowles adverte contra confiar nele para fomentar diretamente a confiança pública.

p "Se não conseguirmos reconhecer que a responsabilidade de supervisionar a confiabilidade da IA ​​deve recair sobre reguladores altamente qualificados, então há uma boa chance de que o futuro da documentação de IA seja mais um mecanismo de consentimento no estilo dos termos e condições - algo que ninguém realmente lê ou entende, " ela diz.

p O documento pede que a documentação da IA ​​seja devidamente entendida como um meio de capacitar os especialistas para avaliar a confiabilidade.

p "A IA tem consequências materiais em nosso mundo que afetam pessoas reais; e precisamos de responsabilidade genuína para garantir que a IA que permeia nosso mundo esteja ajudando a torná-lo melhor, "diz o Dr. Knowles.