Empresas de tecnologia e acadêmicos se uniram para lançar um "desafio deepfake" para melhorar as ferramentas de detecção de vídeos e outras mídias manipuladas por inteligência artificial.

A iniciativa anunciada na quinta-feira inclui US $ 10 milhões do Facebook e visa conter o que é visto como uma grande ameaça à integridade das informações online.

O esforço está sendo apoiado pela Microsoft e pela Partnership on AI, apoiada pela indústria, e inclui acadêmicos do Massachusetts Institute of Technology, Cornell University, Universidade de Oxford, Universidade da California, Berkeley, University of Maryland e University at Albany.

Representa um amplo esforço para combater a disseminação de vídeo ou áudio manipulado como parte de uma campanha de desinformação.

"O objetivo do desafio é produzir tecnologia que todos possam usar para detectar melhor quando a IA foi usada para alterar um vídeo a fim de enganar o espectador, "disse o diretor técnico do Facebook, Mike Schroepfer.

Schroepfer disse que as técnicas deepfake, que apresentam vídeos realistas gerados por IA de pessoas fazendo e dizendo coisas fictícias, "têm implicações significativas para determinar a legitimidade das informações apresentadas online. No entanto, a indústria não tem um grande conjunto de dados ou benchmark para detectá-los."

O desafio é o primeiro projeto de um comitê de IA e integridade da mídia criado pela Partnership on IA, um grupo cuja missão é promover usos benéficos da inteligência artificial e é apoiado pela Apple, Amazonas, IBM e outras empresas de tecnologia e organizações não governamentais.

Terah Lyons, diretor executivo da Parceria, disse que o novo projeto é parte de um esforço para conter falsificações geradas por IA, que "tem significante, implicações globais para a legitimidade da informação online, a qualidade do discurso público, a salvaguarda dos direitos humanos e das liberdades civis, e a saúde das instituições democráticas. "

O Facebook disse que estava oferecendo fundos para colaborações de pesquisa e prêmios para o desafio, e também entraria na competição, mas não aceite nenhum prêmio em dinheiro.

Professor de Oxford Philip Torr, um dos acadêmicos participantes, disse que novas ferramentas são "urgentemente necessárias para detectar esses tipos de mídia manipulada.

"Mídia manipulada sendo divulgada na internet, para criar falsas teorias de conspiração e manipular pessoas para ganhos políticos, está se tornando uma questão de importância global, pois é uma ameaça fundamental para a democracia, "Torr disse em um comunicado.

© 2019 AFP