O Facebook diz que está proibindo vídeos "deepfake", os clipes falsos, mas realistas, criados com inteligência artificial e ferramentas sofisticadas, à medida que intensifica os esforços para combater a manipulação online. Mas a política deixa muitas lacunas.

A rede social disse na noite de segunda-feira que está reforçando suas políticas para remover vídeos editados ou sintetizados de maneiras que não são aparentes para a pessoa média, e que pode levar alguém a pensar que o assunto do vídeo disse algo que ele não disse realmente.

Criado por inteligência artificial ou aprendizado de máquina, deepfakes combinam ou substituem conteúdo para criar imagens que podem ser quase impossíveis de dizer que não são autênticas.

"Embora esses vídeos ainda sejam raros na internet, eles representam um desafio significativo para nossa indústria e sociedade à medida que seu uso aumenta, "Vice-presidente de gerenciamento de políticas globais do Facebook, Monika Bickert, disse em uma postagem do blog.

Contudo, ela disse que as novas regras não incluirão paródia ou sátira, ou clipes editados apenas para alterar a ordem das palavras. As exceções ressaltam o equilíbrio que o Facebook e outros serviços de mídia social enfrentam em sua luta para impedir a disseminação de desinformação online e "notícias falsas", ao mesmo tempo em que respeita a liberdade de expressão e rechaça as acusações de censura.

A empresa de tecnologia dos EUA tem se esforçado para descobrir como lidar com o aumento de deepfakes depois de enfrentar críticas no ano passado por se recusar a remover um vídeo adulterado da presidente da Câmara, Nancy Pelosi, pronunciando suas palavras, que foi visto mais de 3 milhões de vezes. Especialistas disseram que o clipe mal editado era mais uma "farsa barata" do que uma farsa profunda.

Então, dois artistas postaram imagens falsas do CEO do Facebook, Mark Zuckerberg, mostrando-o se regozijando com seu domínio do mundo por um homem só. O Facebook também deixou esse clipe online. A empresa disse na época que nenhum dos vídeos violava suas políticas.

O problema dos vídeos alterados está ganhando cada vez mais urgência, à medida que especialistas e legisladores tentam descobrir como evitar que deepfakes sejam usados ​​para interferir nas eleições presidenciais dos EUA em novembro.

A nova política é um "ponto de partida forte, "mas não aborda problemas mais amplos, disse Sam Gregory, diretor de programa da Witness, uma organização sem fins lucrativos que trabalha no uso de tecnologia de vídeo para os direitos humanos.

"A realidade é que não há muitos falsos políticos no momento. São principalmente imagens sexuais não consensuais, "e o maior problema são os vídeos que são exibidos sem contexto ou ligeiramente editados, que alguns apelidaram de "falsificações superficiais, ", disse ele. Isso inclui o clipe de Pelosi ou um que circulou na semana passada do candidato democrata à presidência Joe Biden que foi seletivamente editado para sugerir falsamente que ele fez comentários racistas.

Gregory, cujo grupo estava entre aqueles que deram feedback ao Facebook sobre a política, disse que embora as novas regras parecessem fortes no papel, há dúvidas sobre a eficácia da empresa na descoberta de vídeos sintéticos.

O Facebook construiu algoritmos de detecção de deepfake e também pode observar o comportamento de uma conta para ter uma ideia se sua intenção é espalhar desinformação, para que a empresa tenha uma vantagem sobre os usuários ou jornalistas em farejá-los, Gregory disse.

Mas esses algoritmos não foram amplamente usados ​​para deepfakes "na natureza. Portanto, é uma questão em aberto quão eficaz será a detecção, "disse ele." Este é um tipo de jogo algorítmico de gato e rato, onde as falsificações ficarão melhores junto com a detecção. "

O Facebook disse qualquer vídeo, deepfake ou não, também serão removidos se violarem os padrões existentes de nudez, violência gráfica ou discurso de ódio. Aqueles que não forem removidos ainda podem ser analisados ​​por verificadores de fatos terceirizados independentes e qualquer considerado falso será sinalizado como tal para as pessoas que tentarem compartilhá-los ou visualizá-los, que Bickert disse ser uma abordagem melhor do que simplesmente derrubá-los.

"Se simplesmente removêssemos todos os vídeos manipulados sinalizados por verificadores de fatos como falsos, os vídeos ainda estariam disponíveis em outro lugar na internet ou ecossistema de mídia social, "Bickert disse." Ao deixá-los no ar e rotulá-los como falsos, estamos fornecendo às pessoas informações e contexto importantes. "

Twitter, que tem sido outro foco de desinformação e vídeos alterados, disse que está "em processo" de criação de uma política para "mídia sintética e manipulada, "que incluiria deepfakes e outros vídeos adulterados. A empresa pediu feedback público sobre o problema. As respostas que está considerando incluem colocar um aviso ao lado dos tweets que incluem material manipulado. Os tweets também podem ser removidos se forem enganosos e podem causar sérios danos a alguém.

Youtube, Enquanto isso, tem uma política contra "práticas enganosas", mas não parece proibir especificamente os deepfakes. O Google não respondeu imediatamente a uma mensagem para comentar o assunto na terça-feira.

© 2020 Associated Press. Todos os direitos reservados.