O que a IA significa para a democracia australiana? E o que podemos fazer sobre isso?

Crédito:Pixabay/CC0 Domínio Público

Na semana passada, o chefe do regulador eleitoral da Austrália alertou que a organização “não possui as ferramentas legislativas ou capacidade técnica interna para dissuadir, detectar ou lidar adequadamente com conteúdo falso gerado por IA relativo ao processo eleitoral”.

Esta observação, feita a uma comissão do Senado sobre a adopção da inteligência artificial (IA), não é um comentário isolado. A relação entre IA e democracia é o tema de muitas conversas cada vez mais urgentes que ocorrem em todo o mundo.

Mais de 60 países irão às urnas em 2024, naquele que foi apelidado de “o maior ano eleitoral da história”. A Austrália espera realizar eleições no Território do Norte e em Queensland este ano, com eleições federais previstas para maio de 2025.

Ao mesmo tempo, a explosão de ferramentas generativas de IA para texto, imagens, áudio e vídeo está a mudar drasticamente a forma como os australianos criam e interagem com a informação. Como podemos manter a integridade e a confiança das eleições na era da IA generativa?

Deepfakes e desinformação

O risco mais óbvio que a IA representa para a democracia é através do conteúdo sintético (ou “deepfakes”), que poderia ser usado para desinformar os eleitores. Um inquérito do Fórum Económico Mundial realizado no ano passado concluiu que os especialistas classificaram a "desinformação e a desinformação" e a "polarização social" como o primeiro e o terceiro riscos globais mais graves nos próximos dois anos.

Esses riscos já estão se manifestando. Nos Estados Unidos, um consultor político, que utilizou a voz sintética do presidente dos EUA, Joe Biden, em chamadas automáticas, enfrenta multas de vários milhões de dólares. Na Índia, os vídeos gerados por IA tornaram-se cada vez mais comuns na campanha eleitoral deste ano.

Mas deepfakes e desinformação estão longe de ser os únicos riscos. A IA também apresenta novas oportunidades. Nas evidências que apresentei ao comitê do Senado, e em uma apresentação minha e de meus colegas do Tech Policy Design Center, argumentamos que uma conversa nacional mais completa sobre este tópico é essencial.

Uma visão ampla de uma democracia saudável

Uma política abrangente não se concentrará apenas em deepfakes que influenciam os votos, mas na saúde da democracia de forma mais ampla. Eleições livres e justas são uma característica da democracia (embora extremamente importante), mas existem muitas outras.

O envolvimento cívico informado, a tolerância e o pluralismo político são outros ingredientes importantes de um sistema democrático próspero. O sistema também precisa de identificar e responder às necessidades do eleitorado, e o governo deve ser transparente e responsável.

Assim, quando pensamos na relação entre a IA e a democracia, precisamos de pensar em preocupações perenes, como a representação política, o jornalismo de interesse público, a literacia mediática e a coesão social.

Riscos, mas também oportunidades

Uma política equilibrada deve reconhecer que as tecnologias de IA apresentam oportunidades para a democracia, bem como riscos.

Por exemplo, é absolutamente razoável temer que o envolvimento cívico informado possa ser prejudicado devido à tendência dos modelos generativos de IA de “alucinarem” e produzirem desinformação.

No entanto, a mesma tecnologia também pode envolver mais eleitores no discurso cívico:pode converter conceitos políticos complexos em conteúdos relacionáveis ou criar traduções automáticas para muitas línguas.

Aprendendo com o passado

Alguns elementos dos desafios que enfrentamos não são tão novos ou certos como parecem.

A IA, e o boom da IA generativa em particular, injeta certamente alguns elementos sem precedentes no ecossistema democrático. Mas ainda há lições que podemos aprender com o passado.

As ansiedades relativamente às tecnologias que tornam as novas formas de comunicação amplamente acessíveis não são novas. Nem o são os esforços para regular e controlar quem pode influenciar os fluxos públicos de informação.

No século XV, a invenção da imprensa de Gutenberg alimentou receios sobre o que hoje poderíamos chamar de “notícias falsas”. Existem muitos exemplos mais recentes, incluindo o que aprendemos com a ascensão das redes sociais (que, por sua vez, está a moldar a história da IA e da democracia).

Precisamos de discernir os elementos da IA generativa que são fundamentalmente novos. Ao mesmo tempo, podemos procurar ferramentas políticas aplicáveis e lições tiradas de revoluções anteriores nas tecnologias da informação.

E agora para a Austrália?

A Austrália está numa encruzilhada interessante. A um ano da nossa próxima eleição federal, vários ramos interligados da política estão em desenvolvimento.

O departamento da indústria está trabalhando em uma resposta à consulta sobre IA Segura e Responsável do ano passado. Isto incluirá a consideração de regras para marcas d'água obrigatórias em conteúdo gerado por IA.

O departamento de comunicações também está reformulando propostas de novos poderes para a Autoridade Australiana de Comunicações e Mídia. Estas medidas ajudarão a combater a desinformação e a desinformação e poderão incluir medidas específicas de IA.

Ao mesmo tempo, a Lei de Segurança Online de 2021 está a ser revista. Isto pode resultar em poderes para lidar com o abuso online de figuras públicas, o que mais uma vez pode envolver IA.

Proponho quatro ações principais que o governo australiano deveria tomar.

Em primeiro lugar, deveria desenvolver uma abordagem nacional coordenada à relação entre a IA e a democracia. Os meus colegas do Tech Policy Design Center ofereceram recomendações mais detalhadas sobre como coordenar o desenvolvimento de políticas tecnológicas nacionais.

Em segundo lugar, o governo deveria prestar muita atenção às dezenas de eleições nacionais em todo o mundo este ano. Podemos monitorizar o sucesso ou o fracasso de diferentes políticas em diferentes contextos para aprender com as experiências de outros.

Terceiro, podemos aprender com a Coreia do Sul ao exigir que os políticos divulguem e coloquem marcas de água em quaisquer deepfakes ou outros conteúdos produzidos por IA utilizados em materiais eleitorais. A Coreia do Sul proibiu completamente os políticos de usarem materiais gerados por IA nas suas campanhas. No entanto, o nível inferior de exigir que os políticos australianos sejam transparentes pode ser menos controverso e mais fácil de implementar.

E quarto, o governo precisa de garantir que a Comissão Eleitoral Australiana e a Autoridade Australiana de Comunicação e Média têm o pessoal e os recursos de que necessitam. A sua tarefa de enfrentar os desafios emergentes, incluindo os colocados pela IA, e de equipar os australianos para se envolverem num cenário de informação complexo no próximo ano, não será fácil.

Estas medidas devem ser apenas o início de uma conversa nacional abrangente, equilibrada e informada sobre como podemos apoiar a democracia da Austrália para florescer na era da IA.

Fornecido por The Conversation

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.