O Facebook descobriu a desidentificação de pessoas nos vídeos. Esperar, Facebook? As plataformas sociais não são frequentemente criticadas por direitos de privacidade? Não dessa vez, pelo menos não nos corredores do Facebook AI Research.

Oran Gafni, um membro da equipe que trabalhou na proteção de rostos contra sistemas de reconhecimento, postou um vídeo, "Amostras de vídeo de desidentificação" em 15 de outubro. Gafni, um engenheiro de pesquisa no Facebook AI Research, graduou-se em engenharia elétrica pela Universidade de Tel-Aviv, sob a supervisão do Prof. Lior Wolf. A tese de Gafni focou na edição semântica de faces ao vivo em vídeo, usando autencoders profundos adversários.

O artigo que discute seu trabalho é intitulado "Live Face De-Identification in Video". Os autores são Gafni e Lior Wolf, com afiliações declaradas do Facebook AI Research e da Tel-Aviv University, e Yaniv Tagman, Facebook AI Research.

Khari Johnson em VentureBeat entendeu por que a pesquisa é importante. "Startups como D-ID e uma série de trabalhos anteriores criaram tecnologia de desidentificação para imagens estáticas, mas este é o primeiro que funciona em vídeo. "

O know-how do Facebook está no campo da pesquisa. Especificamente, este é o Facebook AI Research, e o grupo não tem planos, um porta-voz disse VentureBeat , "para aplicar a tecnologia a qualquer parte da família de aplicativos do Facebook neste momento."

Facebook, no entanto, poderia se beneficiar das tentativas de defender o anonimato.

Johnson observou a recente controvérsia sobre as aplicações da tecnologia de reconhecimento facial. O Facebook enfrenta uma ameaça de US $ 35 bilhões de uma ação coletiva, conforme relatado por sites de notícias, incluindo TechCrunch .

Como funciona:o AI tem tudo a ver com modificação automática de vídeo. O método mapeia uma versão ligeiramente distorcida no rosto de uma pessoa, de modo que fica difícil para a tecnologia de reconhecimento facial identificar uma pessoa.

Johnson disse que seu método "emparelha um autencoder adversário com uma rede classificadora".

Johnson continuou a descrever claramente o que está acontecendo:"A IA usa uma arquitetura de codificador-decodificador para gerar uma máscara e uma imagem. Durante o treinamento, o rosto da pessoa é distorcido e então inserido na rede. Em seguida, o sistema gera imagens distorcidas e não distorcidas do rosto de uma pessoa para saída que podem ser incorporadas ao vídeo. "

Funciona bem? Os pesquisadores tentaram enganar as redes de reconhecimento facial e mostraram-se confiantes de que encontraram uma técnica significativa. "Nossa contribuição é a única adequada para vídeo, incluindo vídeo ao vivo, e apresenta qualidade que ultrapassa em muito os métodos da literatura. A abordagem é elegante e marcadamente nova, empregando um descritor de rosto existente concatenado ao espaço de incorporação, uma máscara aprendida para se misturar, um novo tipo de perda de percepção para obter o efeito desejado, entre algumas outras contribuições. "

Confira os números no jornal, que são exemplos de mudanças de identidade de seus métodos. Os autores ressaltaram que alterar apenas minimamente a imagem é importante para que o método seja capaz de fazer vídeos. Eles disseram que em seu trabalho, a mudança é medida usando recursos de nível baixo e médio e não usando normas nos próprios pixels.

Eles estavam cientes de pesquisas que mostraram que as perturbações de imagem causadas por exemplos adversários distorcem as características de nível médio "que restringimos para permanecerem inalteradas".

Em uma entrevista com VentureBeat , Wolf disse que "o autoencoder é tal que tenta dificultar a vida da rede de reconhecimento facial, e é na verdade uma técnica geral que também pode ser usada se você quiser gerar uma maneira de mascarar a de alguém, dizer, voz ou comportamento online ou qualquer outro tipo de informação identificável. "

A Conferência Internacional sobre Visão Computacional (ICCV) em Seul, Coreia do Sul, é um local onde os pesquisadores do Facebook foram listados para se juntar a especialistas em visão computacional de todo o mundo para discutir os últimos avanços. A programação de Seul foi relatada para ter a apresentação da equipe disponível, "Desidentificação de rosto ao vivo em vídeo."

O resumo do artigo diz:"Propomos um método para a desidentificação de rosto que permite a modificação de vídeo totalmente automática em altas taxas de quadros. O objetivo é descorrelacionar ao máximo a identidade enquanto temos a percepção (pose, iluminação, e expressão) fixos. Conseguimos isso por meio de uma nova arquitetura de rede codificadora-decodificadora feed-forward que é condicionada à representação de alto nível da imagem facial de uma pessoa. A rede é global, no sentido de que não precisa ser retreinado para um determinado vídeo ou para uma determinada identidade, e cria sequências de imagens de aparência natural com pouca distorção no tempo. "

Tyler Lee em Ubergizmo reconheceu ao olho humano que qualquer diferença entre as fotos antes e depois pode ser intrigante, mas as mudanças foram suficientes para confundir o sistema. Lee disse "isso parece uma espécie de deepfake reverso, onde distorce o rosto da pessoa levemente a ponto de confundir os sistemas de reconhecimento facial, mas, ao mesmo tempo, mantém o suficiente do original para que você, como um humano, com certeza saberá quem você está vendo. "

© 2019 Science X Network