No início deste mês, a Meta anunciou que está trabalhando em um conjunto de diretrizes éticas para "influenciadores virtuais" - personagens animados, geralmente gerados por computador, projetados para atrair atenção nas mídias sociais.
Quando o Facebook se renomeou Meta no final do ano passado, anunciou um pivô em direção ao "metaverso" - onde os influenciadores virtuais presumivelmente um dia vagarão aos milhares.

Até o Meta admite que o metaverso ainda não existe. Os blocos de construção de uma realidade virtual persistente e imersiva para tudo, desde negócios até jogos, ainda não foram totalmente montados. Mas os influenciadores virtuais já estão online e são surpreendentemente convincentes.

Mas dada a sua história recente, é Meta (née Facebook) realmente a empresa certa para definir os padrões éticos para influenciadores virtuais e o metaverso de forma mais ampla?

Quem (ou o que) são influenciadores virtuais?

O anúncio da Meta observa o "fenômeno crescente" da mídia sintética - um termo genérico para imagens, vídeo, voz ou texto gerado por tecnologia computadorizada, normalmente usando inteligência artificial (IA) ou automação.

Muitos influenciadores virtuais incorporam elementos de mídia sintética em seu design, desde corpos totalmente renderizados digitalmente até modelos humanos que são mascarados digitalmente com as características faciais dos personagens.

Nos dois extremos da escala, esse processo ainda depende muito do trabalho e da contribuição humana, desde a direção de arte para sessões de fotos até a redação de legendas para mídias sociais. Como a visão do metaverso de Meta, os influenciadores que são inteiramente gerados e alimentados pela IA são uma fantasia amplamente futurista.

Mas mesmo em sua forma atual, os influenciadores virtuais são de grande valor para o Meta, tanto como atrações para suas plataformas existentes quanto como avatares do metaverso.

O interesse em influenciadores virtuais se expandiu rapidamente nos últimos cinco anos, atraindo grandes audiências nas mídias sociais e parcerias com grandes marcas, incluindo Audi, Bose, Calvin Klein, Samsung e a plataforma chinesa de comércio eletrônico TMall.

Uma indústria competitiva especializada na produção, gestão e promoção de influenciadores virtuais já surgiu, embora permaneça em grande parte não regulamentada.

Até agora, a Índia é o único país a abordar influenciadores virtuais nos padrões nacionais de publicidade, exigindo que as marcas “divulguem aos consumidores que não estão interagindo com um ser humano real” ao postar conteúdo patrocinado.

Diretrizes éticas

Há uma necessidade urgente de diretrizes éticas, tanto para ajudar os produtores e seus parceiros de marca a navegar nesse novo terreno e, mais importante, para ajudar os usuários a entender o conteúdo com o qual estão se envolvendo.

Meta alertou que “a mídia sintética tem o potencial tanto para o bem quanto para o mal”, listando “representação e apropriação cultural” como questões específicas de preocupação.

De fato, apesar de sua curta vida útil, os influenciadores virtuais já têm um histórico de racialização aberta e deturpação, levantando questões éticas para produtores que criam personagens digitais com características demográficas diferentes das suas.

Mas não está claro se as diretrizes propostas pela Meta abordarão adequadamente essas questões.

Becky Owen, chefe de inovação e soluções para criadores da Meta Creative Shop, disse que a estrutura ética planejada “ajudará nossos parceiros de marca e criadores de VI a explorar o que é possível, provável e desejável, e o que não é”.

Essa aparente ênfase nas possibilidades tecnológicas e nos desejos dos parceiros da marca leva a uma impressão inevitável de que a Meta está mais uma vez confundindo potencial comercial com prática ética.

Pelas suas próprias contas, as plataformas da Meta já hospedam mais de 200 influenciadores virtuais. Mas os influenciadores virtuais também existem em outros lugares:eles fazem desafios virais de dança no TikTok, carregam vlogs no YouTube e postam atualizações sobre a vida no Sina Weibo. Eles aparecem "offline" em shoppings em Pequim e Cingapura, em outdoors 3D em Tóquio e estrelam comerciais de televisão.

Guarda-caça ou caçador furtivo?

Isso nos traz de volta à questão de saber se a Meta é a empresa certa para definir as regras básicas para este espaço emergente.

A história da empresa é marcada por comportamento antiético, desde o início questionável do Facebook no dormitório de Mark Zuckerberg em Harvard (como retratado em The Social Network) até falhas de privacidade em larga escala demonstradas no escândalo Cambridge Analytica.

Em fevereiro de 2021, o Facebook mostrou até onde estava disposto a ir para defender seus interesses, quando baniu brevemente todo o conteúdo de notícias do Facebook na Austrália para forçar o governo federal a diluir o Australian News Media Bargaining Code.

No ano passado, a ex-executiva do Facebook Frances Haugen também se tornou denunciante publicamente, compartilhando uma coleção de documentos internos com jornalistas e políticos.

Esses chamados "Facebook Papers" levantaram inúmeras preocupações sobre a conduta e a ética da empresa, incluindo a revelação de que a própria pesquisa interna do Facebook mostrou que o Instagram pode prejudicar a saúde mental dos jovens, levando até ao suicídio.

Hoje, a Meta está lutando contra um litígio antitruste nos EUA que visa restringir o monopólio da empresa, potencialmente compelindo-a a vender aquisições importantes, incluindo Instagram e WhatsApp.

Enquanto isso, a Meta está lutando para integrar seu serviço de mensagens em todos os três aplicativos, efetivamente tornando-os interfaces diferentes para um back-end compartilhado que, sem dúvida, a Meta argumentará que não pode ser separado, independentemente dos resultados do litígio atual.

Dada essa história, Meta parece longe de ser a escolha ideal como guardião ético do metaverso.

A já extensa distribuição de influenciadores virtuais em plataformas e mercados destaca a necessidade de diretrizes éticas que vão além dos interesses de uma empresa – especialmente uma empresa que pode ganhar muito com o espetáculo iminente.