Não faltam críticas ao uso da IA ​​nos processos de tomada de decisão pública. Estudiosos, por exemplo, descreveram os algoritmos como um "coquetel tóxico para a democracia", apontando para a disponibilidade cada vez maior de big data que pode ser manipulado para influenciar o discurso público em direções específicas (problemáticas). Podemos inverter o argumento e defender o aproveitamento do potencial das tecnologias digitais para aumentar a qualidade da democracia em tempos de populismo desenfreado? Na verdade, podemos recorrer a teorias democráticas que se baseiam puramente em quadros de entrada para abranger a dimensão complexa dos processos políticos e da formulação de políticas.
Vamos tentar fornecer uma classificação não exaustiva, observando as etapas da formulação de políticas e dos procedimentos de tomada de decisão. No contexto da tomada de decisão pública, os algoritmos podem funcionar de várias maneiras. A IA pode:a) representar o mundo, por exemplo, fazendo proxy de dados demográficos; b) prever ou testar a conveniência de um determinado curso de ação à luz dos resultados que este último possa determinar, como avaliação de risco de detenção de imigração; c) chegar a uma decisão, geralmente no pressuposto da inerente confiabilidade do resultado e/ou eficiência do processo, por exemplo, selecionando os indivíduos que se beneficiarão de uma decisão de alocação que havia sido tomada no processo político tradicional; e d) atuar como gerenciador de algoritmos, supervisionando e controlando servidores públicos que são obrigados a tomar decisões complexas.

Em cada um desses cenários, os algoritmos desempenham papéis diferentes. As funções de representação e previsão implicam que os algoritmos podem fornecer aos tomadores de decisão informações precisas sobre uma determinada opção política. Portanto, os algoritmos não substituem as escolhas políticas, mas criam as condições para que uma alternativa política seja confrontada com resultados concretos. A função de seleção usa algoritmos para acelerar procedimentos que, de outra forma, exigiriam um exame cuidadoso e demorado. Os algoritmos podem, assim, garantir a eficiência do processo seletivo e a consistência dos resultados. Nos cenários descritos acima em c) e d), o algoritmo toma decisões em vez do tomador de decisão identificado por meio do processo político comum.

Contra esse pano de fundo, a tomada de decisão algorítmica é inadequada para qualquer uma dessas tarefas se espera-se que chegue a decisões substantivas de forma independente. Em contrapartida, a IA pode impulsionar processos democráticos se observadas algumas condições para seu bom funcionamento. Em particular, ao desvendar a lógica da legitimidade democrática, podemos concluir que a IA precisa estar associada à necessidade de 1) entender e selecionar questões cívicas que merecem ser abordadas pelas instituições políticas; 2) controlar quais questões chegam às instituições democráticas; 3) avaliar e contestar os resultados de um determinado curso de uma decisão tomada por ou por conta de uma IA. Em outras palavras, os algoritmos podem aumentar a legitimidade democrática em tempos de populismo desenfreado, desde que seu uso ocorra dentro de uma estrutura que maximize a igualdade política e a tomada de decisão racional, permitindo maior participação, consideração de diversas questões sociais e supervisão das decisões tomadas.

Nessas condições, a eficiência e a representação da realidade que um processo algorítmico pode produzir expõe as falácias ou a “verdade fácil” da retórica populista. A tomada de decisão algorítmica não é boa porque a saída é intrinsecamente confiável. É bom desde que esteja inserido em um quadro democrático que permita que tanto os representados quanto os representantes exerçam escolhas e controle sobre o processo de tomada de decisão. Dessa forma, os algoritmos podem expor a retórica populista por serem um instrumento de conhecimento e, portanto, uma ferramenta para ler a realidade e ajudar a resolver seus problemas. + Explorar mais

Prever a raça dos pacientes pode melhorar a equidade na prestação de cuidados de saúde, diz nova análise