À medida que a inteligência artificial se torna mais onipresente, seu potencial e os desafios que ela apresenta estão cada vez mais em foco. Como equilibramos os riscos e as oportunidades está se configurando como uma das questões definidoras de nossa era. Da mesma forma que as cidades surgiram como centros de inovação em cultura, política e comércio, elas estão definindo as fronteiras da governança da IA.
Alguns exemplos de como as cidades estão assumindo a liderança incluem a Coalizão de Cidades pelos Direitos Digitais, a Declaração de Montreal para IA Responsável e o Diálogo Aberto sobre Ética em IA. Outros podem ser encontrados na proibição da tecnologia de reconhecimento facial em São Francisco e na pressão da cidade de Nova York para regular a venda de sistemas automatizados de contratação e a criação de um gerente de políticas e gerenciamento de algoritmos. Institutos urbanos, universidades e outros centros educacionais também estão avançando com uma série de iniciativas de ética em IA.

Esses esforços apontam para um paradigma emergente que tem sido referido como AI Localism. É parte de um fenômeno maior, muitas vezes chamado de Novo Localismo, que envolve as cidades assumindo a liderança na regulamentação e formulação de políticas para desenvolver abordagens específicas de contexto para uma variedade de problemas e desafios. Também vimos uma maior aceitação de abordagens centradas na cidade dentro das estruturas de direito internacional.

Ao fazer isso, as autoridades municipais estão preenchendo lacunas deixadas por estruturas de governança estaduais, nacionais ou globais insuficientes relacionadas à IA e outras questões complexas. Os últimos anos, por exemplo, viram o surgimento do "localismo de banda larga", no qual os governos locais abordam a exclusão digital; e "localismo de privacidade", ambos em resposta aos desafios colocados pelo aumento do uso de dados para aplicação da lei ou recrutamento.

O localismo de IA abrange uma ampla variedade de questões, partes interessadas e contextos. Além das proibições de reconhecimento facial baseado em IA, governos e instituições locais estão analisando regras de compras relacionadas ao uso de IA por entidades públicas, registros públicos de sistemas de IA de governos locais e programas de educação pública sobre IA. Mas mesmo com a multiplicação de iniciativas e estudos de caso, ainda não temos um método sistemático para avaliar sua eficácia – ou mesmo a própria necessidade deles. Isso limita a capacidade dos formuladores de políticas de desenvolver regulamentação apropriada e, de maneira mais geral, impede o crescimento do campo.

Criando uma estrutura de localismo de IA

Abaixo estão dez princípios para ajudar a sistematizar nossa abordagem ao AI Localism. Considerados em conjunto, eles se somam a um quadro incipiente para implementação e avaliação de iniciativas em todo o mundo:

• Os princípios fornecem uma estrela norte para a governança: Estabelecer e articular um conjunto claro de princípios orientadores é um ponto de partida essencial. Por exemplo, a Emerging Technology Charter for London, lançada pela prefeitura em 2021 para delinear "diretrizes práticas e éticas" para pesquisas em torno de tecnologias emergentes e pilotos de tecnologia de cidades inteligentes, é um exemplo. Projetos semelhantes existem em Nantes, na França, que lançaram uma carta de dados para destacar o compromisso do governo local com a soberania, proteção, transparência e inovação dos dados. Esses esforços ajudam as partes interessadas a traçar um caminho que equilibre efetivamente o potencial e os desafios apresentados pela IA, ao mesmo tempo em que afirma um compromisso com a abertura e a transparência no uso de dados para o público.
• O engajamento público fornece uma licença social: Estabelecer confiança é essencial para promover o uso responsável da tecnologia, bem como uma aceitação e aceitação mais amplas pelo público. Formas de engajamento público – crowdsourcing, campanhas de conscientização, mini-assembleias e muito mais – podem ajudar a construir confiança e devem fazer parte de um processo deliberativo realizado pelos formuladores de políticas. Por exemplo, o Departamento de Emprego Justo e Habitação da Califórnia realizou sua primeira audiência pública virtual com cidadãos e grupos de defesa dos trabalhadores sobre o crescente uso de IA na contratação e recursos humanos e o potencial de viés tecnológico nas compras.
• A alfabetização em IA permite um envolvimento significativo: O objetivo da alfabetização em IA é incentivar a familiaridade com a própria tecnologia, bem como com questões éticas, políticas, econômicas e culturais associadas. Por exemplo, o Montreal AI Ethics Institute, uma organização sem fins lucrativos focada no avanço da alfabetização em IA, fornece informações gratuitas, oportunas e digeríveis sobre IA e acontecimentos relacionados à IA em todo o mundo.
• Aproveite a experiência local: Os formuladores de políticas devem aproveitar a experiência em IA das cidades estabelecendo ou apoiando centros de pesquisa. Dois exemplos são a Confederation of Laboratories for Artificial Intelligence Research in Europe (CLAIRE), um projeto pan-europeu que tem um foco europeu para usos de IA nas cidades e "How Busy Is Toon", um site desenvolvido pelo Newcastle City Council e Newcastle University para fornecer informações de trânsito em tempo real sobre o centro da cidade.
• Inovar na forma como a transparência é fornecida: Para construir confiança e promover o engajamento, o AI Localism deve abranger princípios e práticas de transparência testados ao longo do tempo. Por exemplo, Amsterdã e Helsinque divulgam o uso da IA ​​e explicam como os algoritmos são empregados para fins específicos. Além disso, o AI Localism pode inovar na forma como a transparência é fornecida, incutindo conscientização e sistemas para identificar e superar "pontos cegos de IA" e outras formas de viés inconsciente.
• Estabeleça meios de responsabilidade e supervisão: Uma das características de sinalização do AI Localism é o reconhecimento da necessidade de responsabilidade e supervisão para garantir que os princípios de governança responsiva sejam respeitados. Os exemplos incluem o Diretor de Políticas e Gerenciamento de Algoritmos da cidade de Nova York, o Conselho Consultivo de Cingapura sobre o Uso Ético de IA e Dados e o Grupo de Trabalho Consultivo de Vigilância de Seattle.
• Limites de sinal por meio de leis e políticas vinculantes: Os princípios são tão bons quanto são implementados ou aplicados. A legislação de ratificação, como a Lei de Privacidade Biométrica da cidade de Nova York, que exige avisos claros de que dados biométricos estão sendo coletados pelas empresas, limita como as empresas podem usar esses dados. Também proíbe vender e lucrar com os dados, envia uma mensagem clara aos consumidores de que seus direitos e proteções de dados são mantidos e responsabiliza as empresas por respeitar os privilégios de privacidade.
• Use o procurement para moldar mercados de IA responsáveis: Como os governos municipais e outros governos têm feito em outras áreas da vida pública, as cidades devem usar políticas de compras para incentivar iniciativas de IA responsáveis. Por exemplo, o Conselho de Berkeley, Califórnia, aprovou um decreto exigindo que os departamentos públicos justifiquem o uso de novas tecnologias de vigilância e que os benefícios dessas ferramentas superem os danos antes da aquisição.
• Estabeleça colaborações de dados para lidar com assimetrias: As colaborações de dados são uma forma emergente de parceria intersetorial, na qual dados privados são reutilizados e implantados em prol do bem público. Além de gerar novos insights e inovações, essas parcerias também podem ser ferramentas poderosas para quebrar as assimetrias de dados que fundamentam e impulsionam tantas desigualdades socioeconômicas mais amplas. Incentivar a colaboração de dados, identificando possíveis parcerias e combinando oferta e demanda, é, portanto, um componente importante do AI Localism. Os esforços iniciais incluem o Amsterdam Data Exchange, que permite que os dados sejam compartilhados com segurança para resolver problemas locais.
• Torne a boa governança estratégica: Muitas estratégias de IA não incluem governança e muitas abordagens de governança não são estratégicas. Portanto, é imperativo que as cidades tenham uma visão clara de como veem os dados e a IA sendo usados ​​para melhorar o bem-estar local. Traçar uma estratégia de IA, como foi realizada pela Câmara Municipal de Barcelona em 2021, pode criar caminhos para incorporar o uso de IA inteligente em todas as agências e conscientizar os moradores sobre a IA para tornar o uso e as considerações responsáveis ​​de dados um fio condutor, em vez de um exercício isolado dentro da comunidade local. governo.

AI Localismo é uma área emergente, e sua prática e pesquisa permanecem em fluxo. A própria tecnologia continua a mudar rapidamente, oferecendo algo como um alvo móvel para governança e regulamentação. Seu estado de fluxo destaca a necessidade do tipo de estrutura descrito acima. Em vez de se atualizar, respondendo de forma reativa a ondas sucessivas de inovação tecnológica, os formuladores de políticas podem responder de forma mais consistente e responsável, a partir de uma base de princípios que leva em consideração as necessidades muitas vezes concorrentes de várias partes interessadas. + Explorar mais

Para construir cidades sustentáveis, envolva quem mora nelas

Este artigo é republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.