Uma nova pesquisa sobre imagens generativas de IA mostra que apenas mais de um terço das organizações de mídia pesquisadas no momento da pesquisa possuem uma política de IA específica para imagens em vigor.



O estudo, liderado pela RMIT University em colaboração com a Washington State University e o QUT Digital Media Research Centre, entrevistou 20 editores fotográficos ou funções relacionadas de 16 importantes organizações de mídia públicas e comerciais na Europa, Austrália e EUA sobre suas percepções sobre tecnologias generativas de IA. no jornalismo visual.

"IA Visual Generativa em Organizações de Notícias:Desafios, Oportunidades, Percepções e Políticas" foi publicado em Jornalismo Digital .

O pesquisador principal e professor sênior da RMIT, Dr. TJ Thomson, disse que embora a maioria dos funcionários entrevistados estivesse preocupada com o impacto da IA ​​generativa na desinformação e na desinformação, fatores que agravam o problema, como a escala e a velocidade com que o conteúdo é compartilhado nas redes sociais e viés algorítmico estavam fora de seu controle.

“Os editores de fotografia querem ser transparentes com o seu público quando tecnologias generativas de IA estão a ser utilizadas, mas as organizações de comunicação social não podem controlar o comportamento humano ou a forma como outras plataformas apresentam informações”, disse Thomson, da Escola de Mídia e Comunicação da RMIT.

“O público nem sempre clica para saber mais sobre o contexto e a atribuição de uma imagem. Vimos isso acontecer quando as imagens de IA do Papa vestindo Balenciaga se tornaram virais, com muitos acreditando que era real porque era uma imagem quase fotorrealista compartilhada sem contexto.

“Os editores de fotos que entrevistamos também disseram que as imagens que recebem nem sempre especificam que tipo de edição de imagem foi feita, o que pode levar sites de notícias a compartilhar imagens de IA sem saber, impactando sua credibilidade”.

Thomson disse que ter políticas e processos em vigor que detalhem como a IA generativa pode ser usada em diferentes formas de comunicação poderia evitar a ocorrência de incidentes de desinformação e desinformação, como as imagens alteradas do deputado vitoriano Georgie Purcell.

“Mais organizações de comunicação social precisam de ser transparentes nas suas políticas para que o seu público também possa confiar que o conteúdo foi feito ou editado da forma como a organização diz que foi”, disse ele.

Proibir o uso de IA generativa não é a resposta

O estudo descobriu que cinco dos meios de comunicação pesquisados ​​proibiram a equipe de usar IA para gerar imagens, e três desses meios de comunicação proibiram apenas imagens fotorrealistas. Outros permitiam imagens geradas por IA se a história fosse sobre IA.

"Muitas das políticas que tenho visto de organizações de mídia sobre IA generativa são gerais e abstratas. Se um meio de comunicação criar uma política de IA, ele precisará considerar todas as formas de comunicação, incluindo imagens e vídeos, e fornecer orientações mais concretas." Thomson disse.

“Proibir completamente a IA generativa seria provavelmente uma desvantagem competitiva e quase impossível de aplicar.

“Isso também privaria os profissionais de mídia dos benefícios da tecnologia, como o uso de IA para reconhecer rostos ou objetos em imagens para enriquecer metadados e ajudar na legendagem”.

Thomson disse que a Austrália ainda estava “no final da lista” no que diz respeito à regulamentação da IA, com os EUA e a UE na liderança.

“A população da Austrália é muito menor, por isso os nossos recursos limitam a nossa capacidade de sermos flexíveis e adaptáveis”, disse ele.

"No entanto, existe também uma atitude de esperar para ver, em que observamos o que os outros países estão a fazer para que possamos melhorar ou imitar as suas abordagens.

“Acho que é bom ser proativo, seja por parte do governo ou de uma organização de mídia. Se pudermos mostrar que estamos sendo proativos para tornar a Internet um lugar mais seguro, isso mostra liderança e pode moldar conversas em torno da IA.”

Viés algorítmico que afeta a confiança

O estudo concluiu que os jornalistas estavam preocupados com a forma como o preconceito algorítmico poderia perpetuar estereótipos em torno de género, raça, sexualidade e capacidade, levando a riscos de reputação e à desconfiança nos meios de comunicação social.

“Tínhamos um editor de fotos em nosso estudo digitando um prompt detalhado em um gerador de texto para imagem para mostrar uma mulher do sul da Ásia vestindo blusa e calças”, disse Thomson.

"Apesar de detalhar as roupas da mulher, o gerador persistiu em criar a imagem de uma mulher do sul da Ásia vestindo um sári."

"Problemas como este decorrem da falta de diversidade nos dados de formação, e levam-nos a questionar quão representativos são os nossos dados de formação, e o que podemos fazer para pensar sobre quem está a ser representado nas nossas notícias, bancos de imagens, mas também cinema e videogames, que podem ser usados ​​para treinar esses algoritmos."

Os direitos autorais também eram uma preocupação para os editores de fotos, já que muitos geradores de texto para imagem não eram transparentes sobre a origem de seus materiais de origem.

Embora tenha havido casos de direitos autorais de IA generativa chegando aos tribunais, como o processo do The New York Times contra a OpenAI, Thomson disse que ainda é uma área em evolução.

“Ser mais conservador e usar apenas geradores de IA de terceiros treinados em dados proprietários ou usá-los apenas para brainstorming ou pesquisa em vez de publicação pode diminuir o risco legal enquanto os tribunais resolvem a questão dos direitos autorais”, disse ele.

“Outra opção é treinar modelos com conteúdo próprio da organização e assim eles terão a confiança de que possuem os direitos autorais das gerações resultantes.”

IA generativa não é de todo ruim

Apesar das preocupações com a desinformação e a desinformação, o estudo concluiu que a maioria dos editores de fotografia via muitas oportunidades para utilizar IA generativa, tais como brainstorming e geração de ideias.

Muitos ficaram felizes em usar IA para gerar ilustrações que não eram fotorrealistas, enquanto outros ficaram felizes em usar IA para gerar imagens quando não tinham boas imagens de estoque existentes.

“Por exemplo, todas as imagens existentes de bitcoin parecem bastante semelhantes, então a IA generativa pode ajudar a preencher uma lacuna no que está faltando em um catálogo de imagens de estoque”, disse Thomson.

Embora houvesse preocupação com a perda de empregos de fotojornalismo para a IA generativa, um editor entrevistado disse que poderia imaginar o uso da IA ​​para tarefas simples de fotografia.

“Os fotógrafos empregados poderão realizar mais projetos criativos e menos tarefas como fotografar algo em um fundo branco”, disse o editor entrevistado.

"Poderíamos argumentar que essas coisas também são muito fáceis e simples e levam menos tempo para um fotógrafo, mas às vezes também são uma dor de cabeça."

Mais informações: T. J. Thomson et al, IA Visual Generativa em Organizações de Notícias:Desafios, Oportunidades, Percepções e Políticas, Jornalismo Digital (2024). DOI:10.1080/21670811.2024.2331769
Fornecido pela Universidade RMIT