À medida que as tecnologias orientadas por dados transformam o mundo e a inteligência artificial levanta questões sobre preconceito, privacidade e transparência, Suresh Venkatasubramanian oferece sua experiência para ajudar a criar proteções para garantir que as tecnologias sejam desenvolvidas e implantadas com responsabilidade.
“Precisamos proteger o povo americano e garantir que a tecnologia seja usada de maneira a reforçar nossos valores mais altos”, disse Venkatasubramanian, professor de ciência da computação e ciência de dados da Brown University.

Após uma nomeação de 15 meses recentemente concluída como consultor do Escritório de Políticas Científicas e Tecnológicas da Casa Branca, Venkatasubramanian retornou a Washington, D.C., na terça-feira, 4 de outubro, para a revelação de "A Blueprint for an AI Bill" of Rights:Making Automated Systems Work for the American People", durante uma cerimônia na Casa Branca.

Venkatasubramanian disse que o projeto representa o culminar de 14 meses de pesquisa e colaboração liderada pelo Escritório de Política de Ciência e Tecnologia com parceiros do governo federal, academia, sociedade civil, setor privado e comunidades em todo o país. Essa colaboração informou o desenvolvimento da primeira orientação nacional focada no uso e implantação de tecnologias automatizadas que têm o potencial de impactar os direitos das pessoas, oportunidades e acesso a serviços.

"Como nação, já fizemos isso antes com a privacidade do consumidor e a Declaração de Direitos do Paciente, por exemplo", disse Venkatasubramanian. "Direitos civis e liberdades civis são uma instituição sagrada em nosso país... Todos os principais países e blocos de países do mundo estão pensando sobre o que é preciso para governar sistemas automatizados e levar em conta o preconceito, mas os EUA não, então isso é algo que demorou a chegar."

Venkatasubramanian é pesquisador e educador imerso no desenvolvimento e impacto da tecnologia e inteligência artificial. A oportunidade de aconselhar nacionalmente alinhado não apenas com sua experiência, mas também com suas preocupações sobre o uso ético da tecnologia e preconceitos incorporados no design de algumas ferramentas de IA, que podem infundir preconceitos passados ​​e perpetuar a discriminação.

Por ocasião do anúncio da Declaração de Direitos da IA, Venkatasubramanian, vice-diretor da Iniciativa de Ciência de Dados de Brown, compartilhou insights e perspectivas sobre sua passagem pela Casa Branca, sua abordagem humanista à ciência da computação e o que ele espera realizar em Brown nos próximos anos.

P:Por que as "proteções" em torno do desenvolvimento e uso da IA ​​são uma questão de importância nacional?

Reconhecemos que há muitos benefícios potenciais da automação e da tecnologia orientada a dados – todas essas promessas do que poderia ser. Mas também vemos que as promessas muitas vezes tendem a não pagar. Por exemplo, podemos tentar construir um sistema de IA para garantir que não possamos discriminar no sistema de justiça criminal, mas sistemas que sugam dados de prisões anteriores são irrevogavelmente manchados pelo histórico de injustiça racial no sistema de justiça criminal. E então implementado em escala, essa mácula se espalha. Todos os dados que são alimentados em um sistema vão apenas amplificar os vieses nos dados, a menos que haja proteções rigorosas e cuidadosamente projetadas.

Esses sistemas tecnológicos impactam nossos direitos civis e liberdades civis em relação a tudo:crédito, a oportunidade de obter aprovação para uma hipoteca e terra própria, bem-estar infantil, acesso a benefícios, ser contratado para empregos – todas as oportunidades de avanço. Onde implantamos esses sistemas, precisamos garantir que sejam consistentes com os valores que acreditamos que deveriam ter e que sejam construídos de forma transparente e responsável perante o público. Não é algo que podemos dar um tapa depois do fato.

P:Como cientista da computação, por que você está preocupado com o impacto da tecnologia na sociedade?

Venho estudando essas questões há quase uma década, pensando no que está por vir e como será o mundo quando os algoritmos forem onipresentes. Dez anos atrás, uma preocupação que eu achava que provavelmente teríamos era se podemos confiar que esses sistemas funcionam da maneira que deveriam, e como sabemos que esses sistemas são responsáveis ​​perante o público e nossos representantes.

Quer você goste ou não, a tecnologia está aqui e já está afetando tudo o que molda você. Você está – sem o seu conhecimento – adaptando como vive e funciona para se tornar mais legível para a tecnologia. Você está se tornando legível por máquina, em vez de tornar as máquinas legíveis por humanos. Se não prestarmos atenção a isso, a tecnologia estará orientando como vivemos como sociedade, em vez de a sociedade criar uma tecnologia que nos ajude a florescer e sermos nós mesmos. Não gosto de assustar as pessoas, mas é verdade — e é importante.

P:A IA é uma coisa boa ou ruim?

Nem, realmente. Não é a tecnologia que é boa ou ruim, IA ou não. É com o impacto – os danos – que devemos nos preocupar. Uma planilha do Excel que produz uma pontuação que confina alguém à detenção antes de ser julgado é tão ruim quanto um sofisticado sistema de IA que faz a mesma coisa. E um algoritmo de aprendizado profundo que pode ajudar a melhorar o rendimento das colheitas é incrível e maravilhoso. É por isso que a Declaração de Direitos da IA ​​se concentra no impacto — nos direitos das pessoas, nas oportunidades e no acesso a serviços — e não na tecnologia em si, que muda e evolui rapidamente.

P:O que o Blueprint para uma Declaração de Direitos de IA fará?

Pense em medicamentos prescritos, por exemplo. Você não precisa se preocupar com o fato de o medicamento que está tomando não ter sido testado, porque o FDA não o deixará entrar no mercado até que passe por testes rigorosos. Da mesma forma, estamos confiantes de que nossos carros funcionarão e que recalls regulares ocorrerão sempre que a Administração Nacional de Segurança no Trânsito nas Rodovias descobrir um problema; e estamos confiantes de que nossos aviões funcionam e que cada novo tipo de jato passa por testes rigorosos antes de voar. Temos muitos exemplos de onde não permitimos que novas tecnologias sejam usadas em pessoas sem antes verificar. Podemos olhar para isso como um guia para o que achamos importante, e a tecnologia afeta a todos.

Esta Declaração de Direitos da IA ​​é um modelo que vai além dos princípios. Ele fornece conselhos acionáveis ​​para desenvolvedores, sociedade civil, defensores, corporações, governos locais e governos estaduais. Existem várias alavancas para avançá-lo:regulamentação, práticas da indústria, orientação sobre o que os governos vão ou não construir. Não há bala de prata aqui, mas todas as alavancas estão ao seu alcance. Será necessária toda a sociedade para avançar neste trabalho.

P:Como sua experiência como consultor da Casa Branca o impactou?

Foi uma mudança de vida. Meu cérebro agora funciona de maneiras que eu não posso – e não quero – desfazer. Estou constantemente pensando nas pontes entre pesquisa e inovação, sociedade e política. Como país e como pesquisadores, ainda estamos chegando a um acordo com isso. Por muito tempo, pensamos na tecnologia como algo que usamos para tornar a vida melhor. Mas não estamos tão familiarizados com a tecnologia como algo que muda nosso mundo. Tentar fazer políticas para um país inteiro – e de certa forma, para o mundo inteiro, porque os EUA são líderes – é um desafio porque há tantos interesses concorrentes que você deve equilibrar.

No meu tempo no governo, fiquei impressionado com a complexidade e sutileza dessas questões que se desdobram em diferentes domínios – o que faz sentido quando se pensa em ferramentas de diagnóstico de saúde realmente não funciona se você está pensando em ferramentas usadas no tribunal. Tenho uma apreciação mais profunda de quantas pessoas dedicadas existem dentro do governo que querem fazer a diferença e precisam de ajuda e largura de banda para fazê-lo.

Uma coisa que percebi nos anos que passei trabalhando em espaços políticos é que é fundamental ajudar os formuladores de políticas a entender que a tecnologia não é uma caixa preta - é maleável e evolutiva, e ajuda a moldar as políticas de maneiras que talvez não Espero. As escolhas de design de tecnologia são escolhas políticas, de muitas maneiras. Chegar a um acordo sobre como a tecnologia e as políticas influenciam umas às outras requer muita educação – tanto para tecnólogos quanto para formuladores de políticas. + Explorar mais

Casa Branca revela inteligência artificial 'Declaração de Direitos'