p O uso de algoritmos no governo está transformando a maneira como os burocratas trabalham e tomam decisões em diferentes áreas, como saúde ou justiça criminal. Os especialistas abordam os desafios de transparência do uso de algoritmos em procedimentos de tomada de decisão na macro, meso, e micro-níveis nesta edição especial da Política de Informação . p Os algoritmos de aprendizado de máquina têm um enorme potencial para tornar os serviços governamentais mais justos e eficazes e têm o potencial de "libertar" a tomada de decisões da subjetividade humana, de acordo com pesquisas recentes. Os algoritmos são usados ​​em muitos contextos de serviço público. Por exemplo, dentro do sistema legal, foi demonstrado que os algoritmos podem prever a reincidência melhor do que os juízes de tribunais criminais. Ao mesmo tempo, os críticos destacam vários perigos da tomada de decisão algorítmica, como preconceito racial e falta de transparência.

p Alguns estudiosos argumentaram que a introdução de algoritmos nos procedimentos de tomada de decisão pode causar mudanças profundas na maneira como os burocratas tomam decisões e que os algoritmos podem afetar rotinas e estruturas organizacionais mais amplas. Esta edição especial sobre transparência de algoritmos apresenta seis contribuições para aprimorar nossa compreensão conceitual e empírica do uso de algoritmos no governo.

p "Tem havido uma onda de críticas à 'caixa preta' da tomada de decisão algorítmica no governo, "Explicar os Editores Convidados Sarah Giest (Leiden University) e Stephan Grimmelikhuijsen (Utrecht University)." Nesta coleção de edição especial, mostramos que não é suficiente descompactar os detalhes técnicos dos algoritmos, mas também olhe para institucional, organizacional, e o contexto individual dentro do qual esses algoritmos operam para entender verdadeiramente como podemos alcançar algoritmos transparentes e responsáveis ​​no governo. Por exemplo, regulamentos podem permitir mecanismos de transparência, ainda assim, as organizações criam novas políticas sobre como os algoritmos devem ser usados, e servidores públicos individuais criam novos repertórios profissionais. Todos esses níveis interagem e afetam a transparência algorítmica nas organizações públicas. "

p Os desafios de transparência para o uso de algoritmos transcendem diferentes níveis de governo - do nível europeu aos burocratas públicos individuais. Esses desafios também podem assumir diferentes formas; a transparência pode ser habilitada ou limitada por ferramentas técnicas, bem como diretrizes regulatórias ou políticas organizacionais. Os artigos desta edição abordam os desafios de transparência do uso de algoritmos na macro, meso, e nível micro. O nível macro descreve fenômenos de uma perspectiva institucional - quais sistemas nacionais, regulamentos e culturas desempenham um papel na tomada de decisão algorítmica. O nível meso presta atenção principalmente ao nível organizacional e de equipe, enquanto o nível micro se concentra em atributos individuais, como crenças, motivação, interações, e comportamentos.

p "Chamadas para 'manter os humanos no circuito' podem ser pontos discutíveis se não conseguirmos entender como os algoritmos afetam a tomada de decisão humana e como o design algorítmico impacta as possibilidades práticas de transparência e discrição humana, "observa Rik Peeters, professor pesquisador de Administração Pública do Centro de Pesquisa e Ensino em Economia (CIDE) da Cidade do México. Em uma revisão da literatura acadêmica recente sobre a dinâmica de nível micro de sistemas algorítmicos, ele discute três variáveis ​​de design que determinam as pré-condições para a transparência e discrição humanas e identifica quatro fontes principais de variação na "interação humano-algoritmo".

p O artigo tira duas conclusões principais:primeiro, agentes humanos raramente estão totalmente "fora do circuito, "e os níveis de supervisão e substituição projetados em algoritmos devem ser entendidos como um continuum. O segundo diz respeito à racionalidade limitada, comportamento satisficing, viés de automação, e mecanismos de enfrentamento da linha de frente que desempenham um papel crucial na maneira como os humanos usam algoritmos nos processos de tomada de decisão.

p Para pesquisas futuras, o Dr. Peeters sugere examinar mais de perto os mecanismos comportamentais em combinação com a identificação de habilidades relevantes dos burocratas para lidar com algoritmos. "Sem uma compreensão básica dos algoritmos com os quais os burocratas de nível de rua e de tela precisam trabalhar, é difícil imaginar como eles podem usar adequadamente sua discrição e avaliar criticamente procedimentos e resultados algorítmicos. Os profissionais devem ter treinamento suficiente para supervisionar os algoritmos com os quais estão trabalhando. "

p No nível macro, algoritmos podem ser uma ferramenta importante para permitir a transparência institucional, escreve Alex Ingrams, Ph.D., Governança e Assuntos Globais, Instituto de Administração Pública, Universidade de Leiden, Leiden, Os Países Baixos. Este estudo avalia uma abordagem de aprendizado de máquina para abrir comentários públicos para a formulação de políticas, a fim de aumentar a transparência institucional dos comentários públicos em um processo legislativo nos Estados Unidos. O artigo aplica uma análise de aprendizado de máquina não supervisionada de milhares de comentários públicos enviados à Administração de Segurança de Transporte dos Estados Unidos sobre uma proposta de regulamento de 2013 para o uso de novos scanners de imagem de corpo inteiro em aeroportos. O algoritmo destaca grupos de tópicos salientes nos comentários públicos que podem ajudar os formuladores de políticas a entender os processos de comentários públicos abertos. “Os algoritmos não devem apenas estar sujeitos à transparência, mas também podem ser usados ​​como ferramenta para a transparência na tomada de decisões do governo, "comenta o Dr. Ingrams.

p "A certeza regulatória em combinação com a capacidade organizacional e gerencial conduzirá a forma como a tecnologia é desenvolvida e usada e quais mecanismos de transparência existem para cada etapa, "Observe os Editores Convidados." Por si só, essas são questões maiores a serem enfrentadas em termos de desenvolvimento e aprovação de leis ou fornecimento de treinamento e orientação para gestores públicos e burocratas. O fato de eles estarem ligados complica ainda mais esse processo. Destacar essas ligações é um primeiro passo para ter uma visão mais ampla do motivo pelo qual os mecanismos de transparência são colocados em prática em alguns cenários e não em outros e abre a porta para análises comparativas para pesquisas futuras e novos insights para os formuladores de políticas. Para defender o uso responsável e transparente de algoritmos, pesquisas futuras devem olhar para a interação entre micro, meso, e dinâmica de nível macro. "

p “Estamos orgulhosos de apresentar esta edição especial, a centésima edição de Política de Informação . Seu foco na governança da IA ​​demonstra nosso desejo contínuo de lidar com as questões contemporâneas do governo eletrônico e a importância de apresentar pesquisas excelentes e os insights oferecidos pelas perspectivas da política da informação, "adicione o Professor Albert Meijer (Utrecht University) e o Professor William Webster (University of Stirling), Editores-chefes.