A última onda de aplicativos de fotos pode fazer você parecer uma estrela de cinema. Zao usa inteligência artificial para substituir os rostos de personagens em filmes ou clipes de TV por imagens de qualquer pessoa cuja foto você carregue no aplicativo.

O efeito é surpreendentemente realista e mostra o quão longe esse tipo de tecnologia "deepfake" chegou. Mas também destaca como são grandes os riscos de disponibilizar suas fotos online onde qualquer pessoa pode usá-las ou abusar delas - e a limitação da lei para lidar com esse problema.

Um dos principais problemas é o direito legal que as empresas têm de usar suas fotos depois de carregá-las em seus aplicativos ou sites. Vários relatos da mídia afirmam que os termos e condições de Zao inicialmente eram "gratuitos, irrevogável, permanente, transferível, e relicenciados ". Uma reação contra isso empurrou a empresa que fabrica o aplicativo, Momo Inc, para alterar seus termos. Ele diz que não usará headshots ou vídeos enviados por usuários, exceto para melhorar o aplicativo e não armazenará imagens se os usuários as excluirem de suas contas.

Mas muitos outros aplicativos de fotos, como o FaceApp de mudança de idade ou sexo, retêm direitos semelhantes para efetivamente fazer o que quiserem com o conteúdo carregado. Com "um perpétuo, irrevogável, não exclusivo, livre de royalties, no mundo todo, totalmente pago, licença sublicenciável transferível, "O FaceApp basicamente ganha todos os direitos do proprietário original sobre a foto (exceto que não tem uma licença exclusiva).

Esses termos não são diferentes daqueles de aplicativos ainda mais populares e convencionais, como Instagram, que abre seu feed de fotos para os anunciantes. O Instagram pode permitir que outras empresas explorem as fotos dos usuários sem qualquer compensação e, posteriormente, passar esse direito a terceiros sem permissão adicional.

E, claro, você nem mesmo precisa dar permissão a alguém para usar suas fotos para que eles façam isso de qualquer maneira. Assim que estiverem online, suas imagens podem circular sem o seu conhecimento. Estudos demonstraram que a compreensão das pessoas sobre as configurações de privacidade online permanece bastante limitada. Se as configurações de privacidade não forem suficientes, qualquer um pode acessar suas fotos.

Isso pode incluir jornalistas, quem pode republicar imagens de mídias sociais sem necessariamente violar as leis de privacidade se as imagens já tiverem entrado no domínio público. As fotos ainda são protegidas pela lei de direitos autorais, mas imagens tiradas de vídeos às vezes podem ser publicadas sob cláusulas de "tratamento justo". "Também não é incomum que jornalistas usem capturas de tela da página da web em que uma imagem é publicada, que a publicação não teria que remover automaticamente se um usuário excluísse a foto original.

O desenvolvimento da IA ​​torna as consequências potenciais de desistir do controle de suas fotos ainda maiores. A tecnologia deepfake usada por Zao e outros aplicativos pode criar fotos e vídeos manipulados que são muito difíceis de distinguir da coisa real.

Isso já levou à pornografia falsa, que envolve sobrepor o rosto de alguém em imagens explícitas usando uma técnica de síntese baseada em IA. Esse tipo de abuso online pode expor as vítimas a chantagens financeiras ou emocionais e, por fim, causar sérios danos psicológicos e emocionais.

Recurso legal

Se você descobrir que sua imagem foi usada de maneiras que você nunca quis, como pode a lei ajudar? Se for simplesmente o caso da imagem sendo usada dentro dos termos e condições que você concordou (e nenhuma outra lei foi violada), você provavelmente não tem muitos recursos. Sob o "direito de ser esquecido da UE, "você pode pedir que suas fotos sejam excluídas dos servidores de uma empresa para que eles não possam fazer uso delas, embora isso não seja um direito absoluto.

Mas o advento dos aplicativos de IA cria outro problema. Embora uma empresa possa excluir suas imagens de seus servidores, pode ser impossível remover os dados relacionados do software AI que processou e aprendeu com as imagens. Esses dados podem estar efetivamente indisponíveis, mas não podem ser realmente "esquecidos".

Existem outras maneiras em que a lei parece estar em desacordo com a evolução das imagens alteradas pela IA, principalmente quando são usados ​​para fins abusivos e ofensivos. No Reino Unido, a recente lei que visa "pornografia de vingança" só se aplica a imagens sexuais privadas, que pode não incluir fotografias não privadas transpostas para uma imagem sexual de outra pessoa.

Pode haver outras opções para aqueles que são vítimas da criação de pornografia falsa. O fato de pessoas terem sido condenadas por postar imagens de outras pessoas em sites pornográficos mostra que a lei do assédio também pode ser invocada em certas circunstâncias. Também pode ser possível fazer reivindicações por uso indevido de informações privadas, difamação ou violação de direitos autorais.

Se alguém o enganar para conceder acesso ao seu perfil de mídia social e tirar fotos para gerar imagens pornográficas falsas, você também pode envolver a legislação de proteção de dados. Mas é questionável se ações judiciais civis, como difamação ou privacidade, reconhecem adequadamente o dano que pode ser feito com deepfakes de uma forma que uma acusação criminal específica faria - e ainda não existe tal acusação.

O advento da mídia social desafiou fundamentalmente nossas expectativas sobre como controlamos nossas fotografias. A atual colcha de retalhos de disposições legais precisa ser revisada para considerar as formas emergentes de criação e compartilhamento de imagens sem o consentimento do sujeito, para que essas questões sejam abordadas de forma mais ampla e com um impacto duradouro. Junto com uma nova estrutura regulatória para segurança online, os usuários precisam ser educados para avaliar os riscos da atividade online e navegar pelos espaços online de forma responsável.

Este artigo foi republicado de The Conversation sob uma licença Creative Commons. Leia o artigo original.