Chame de inteligente, classifique-o como um trapaceiro, mas não tenha vergonha de achar isso terrivelmente interessante. O "isso" é CycleGAN, e seu link para a esteganografia - onde mensagens e informações são escondidas em textos ou dados não secretos.

Então, em 2019 não pode ser tão chocante para as pessoas aprenderem que uma máquina, não um humano, pode trapacear através de uma tarefa. A IA neste caso, como bons espiões humanos e contras, aprendi quando ocultar algumas informações que podem ser usadas posteriormente.

No Packt , Bhagyashree R escreveu que "Os pesquisadores descobriram que a máquina estava codificando dados do mapa aéreo nos padrões de ruído do mapa de ruas em baixo. O código era tão sutil que seria invisível ao olho humano. Mas, em uma inspeção mais detalhada, quando os detalhes foram ampliados, estava claro que a máquina tinha feito milhares de pequenas mudanças de cor indicando dados visuais que poderiam ser usados ​​como uma folha de dicas ao recriar a imagem aérea - daí o reaparecimento mágico das claraboias. "

Enquanto isso, um artigo muito citado sobre o assunto (a pesquisa foi coberta por vários sites de observação de tecnologia, na verdade) encapsulou o que os pesquisadores descobriram. "Descobriu-se que um agente de aprendizado de máquina que pretendia transformar imagens aéreas em mapas de ruas e vice-versa estava trapaceando, ocultando informações de que seria necessário mais tarde de uma forma quase imperceptível, sinal de alta frequência, " disse TechCrunch .

Lily Hay Newman em Com fio em 2017 lembrou aos leitores que a esteganografia é uma prática antiga, nada nasceu ontem. Pense em Da Vinci incorporando um significado secreto em uma pintura; ou espiões do passado escrevendo com tinta invisível.

Se a prática é antiga, no entanto, existem alguns problemas contemporâneos. Estamos, Afinal, em um mundo digital onde todos os vícios e virtudes assumiram novos processos online.

A esteganografia só vai ficar mais difícil de detectar, disse BankInfoSecurity , e "já foi usado por atores mal-intencionados".

Mathew Schwartz disse que a esteganografia digital parece tornar a vida mais difícil para as agências de aplicação da lei e citou um professor universitário fazendo uma observação semelhante. "A criptografia de disco esteganográfico perfeitamente negável será um pesadelo quando se trata de coleta de evidências digitais, "disse Alan Woodward, professor de ciência da computação na Universidade de Surrey.

Avance rapidamente para os relatórios que estão disponíveis agora, que um grupo de pesquisadores de Stanford e do Google realizou um estudo sobre como uma rede neural, CycleGAN, aprende a trapacear. O artigo:CycleGAN, um Master of Steganography está no arXiv e os três autores são Casey Chu (Stanford), Andrey Zhmoginov (Google) e Mark Sandler (Google).

Eles escreveram, "CycleGAN aprende a 'ocultar' informações sobre uma imagem de origem nas imagens que gera de uma forma quase imperceptível, sinal de alta frequência. "

Como parte da seção de discussão, os autores afirmam que "Codificando informações desta forma, CycleGAN torna-se especialmente vulnerável a ataques adversários; um invasor pode fazer com que uma das transformações aprendidas produza uma imagem de sua escolha, perturbando qualquer imagem de origem escolhida. "

Seu conselho? Eles escreveram que "a presença desse fenômeno indica que é necessário cuidado ao projetar funções de perda que envolvem composições de redes neurais:tais modelos podem se comportar de maneiras não intuitivas se um componente tirar vantagem da capacidade do outro componente de apoiar exemplos adversários."

Estruturas comuns, de acordo com os autores, como redes adversárias geradoras e perdas perceptivas usam essas composições. Eles disseram que "essas estruturas devem ser analisadas cuidadosamente para garantir que os exemplos adversários não sejam um problema."

Mas espere. Devemos correr para as colinas com medo de que os robôs e a IA acabem com todos nós? Felizmente, Devin Coldewey acalmou os leitores em TechCrunch . A ocorrência "simplesmente revela um problema com os computadores que existe desde que foram inventados:eles fazem exatamente o que você lhes diz para fazer".

O que Coldewey quis dizer com isso? “A intenção dos pesquisadores era, como você pode imaginar, para acelerar e melhorar o processo de transformar imagens de satélite nos mapas precisos do Google. Para tanto, a equipe estava trabalhando com o que é chamado de CycleGAN - uma rede neural que aprende a transformar imagens do tipo X e Y umas nas outras, da forma mais eficiente e precisa possível, através de muita experimentação. "

O computador chegou a uma solução "que lançou luz sobre uma possível fraqueza deste tipo de rede neural - que o computador, se não for explicitamente impedido de fazê-lo, essencialmente encontrará uma maneira de transmitir detalhes para si mesmo no interesse de resolver um determinado problema de forma rápida e fácil. "

© 2019 Science X Network