É correto usar IA para clonar a voz do seu filho para transmitir uma mensagem política?
Crédito:Pixabay/CC0 Domínio Público Desde meados de Fevereiro, membros do Congresso receberam mais de 119 mil telefonemas exigindo a aprovação de leis mais rigorosas de controlo de armas. Mas estes não são o tipo típico de apelo feito por círculos eleitorais que expressam as suas preocupações.
Através do uso da inteligência artificial, estas chamadas estão aparentemente a ser feitas a partir do túmulo – por crianças que foram mortas como resultado direto da violência armada.
“Em 2018, quando eu tinha 15 anos, fui morto por uma arma desprotegida na casa do meu amigo”, diz uma mensagem na voz do nativo de Connecticut, Ethan Song. “Meus pais recriaram minha voz usando IA para que eu possa finalmente pedir que vocês façam algo para proteger as crianças.”
Essas mensagens estão sendo enviadas por meio de um novo site chamado The Shotline. A plataforma nasceu de uma parceria entre Change the Ref e March For Our Lives, duas organizações formadas em resposta ao tiroteio na escola Marjory Stoneman Douglas High School em Parkland, Flórida, em 2018.
Os grupos fizeram parceria com a ElevenLabs, uma empresa de IA que cria vozes sintéticas usando fala gravada, para o projeto. O seu objectivo é inundar o Congresso com estas mensagens para fazer com que os membros levem mais a sério as questões relacionadas com o controlo de armas. Em poucos cliques, os usuários do site podem enviar essas mensagens de voz para seus deputados e senadores.
Rupal Patel, uma professora nordestina que passou sua carreira pesquisando como a tecnologia pode ser usada para ajudar a devolver a voz às pessoas, acredita que é um bom uso da tecnologia.
“Isso torna tudo real”, diz Patel. "Não é necessariamente sobre a pessoa. É sobre a história, e ao adicionar uma voz a ela podemos ver como ela soava, quais eram seus sonhos. Associamos isso a uma voz, a essa proximidade."
Mas surgiu outra questão:é certo recriar as vozes dos mortos, mesmo que seja por uma boa causa?
Patel diz que como as vozes das crianças são criadas pelos pais, não há muitos motivos para preocupação.
“É tudo uma questão de consentimento”, diz ela. “O que torna isso ético e admissível é que isso foi consentido pelos pais da criança. São eles que usam uma voz artificial como forma de transmitir uma mensagem. . Os pais ainda são os responsáveis legais. Qualquer outra pessoa que o utilize para uma mensagem negativa não tem o consentimento do indivíduo ou do responsável.
Dito isto, atualmente não existem leis que protejam as pessoas de que as suas vozes sejam recriadas através da IA, observa ela.
“Não acho que seja uma linha preto e branco”, diz Patel. "Temos que realmente pensar sobre essas coisas em um mundo com muito mais nuances. Se eles estavam usando isso para cometer fraudes, isso é uma coisa. Se eles estão usando isso de forma criativa para transmitir uma mensagem, é uma coisa diferente."
Ela comparou a tecnologia ao Photoshop, que as pessoas usam o tempo todo para alterar imagens.
“Este é um continuum de tecnologia e temos que tratá-lo dessa forma”, diz ela. “Como podemos usá-lo e avaliá-lo caso a caso? Isso pode não parecer uma resposta satisfatória para algumas pessoas, mas não podemos simplesmente considerá-lo antiético.”
James Alan Fox, professor de criminologia, direito e políticas públicas do Nordeste, diz que entende o sentimento por trás do projeto e reconhece a dor e a raiva que os pais sentem pela perda de seus filhos, mas não acha que o projeto será particularmente eficaz.
“Sejam os pais de Sandy Hook Promise, Parkland ou outros casos, eu entendo suas tentativas de convencer o Congresso e o povo de Washington a aprovar medidas preventivas que evitarão que outros pais se coloquem no lugar deles, e os pais devem falar por seus filhos e filhas. , e eles têm", diz ele.
“Mas ter uma criança assassinada falando por si mesma com uma voz sintética não acho que isso vá ajudar”, acrescenta. “Na verdade, e talvez seja só eu, mas quando estava ouvindo o áudio, isso me fez focar mais na qualidade da voz, mais do que na qualidade da mensagem.
Com o aumento das falsificações profundas, diz Fox, é importante termos cuidado na forma como usamos essa tecnologia.
“Estou bem com a IA, por exemplo, criando uma nova música dos Beatles, mas isso é para fins de entretenimento”, diz ele. "Acho que é aí que estabeleço o limite."
Ele diz que seria mais impactante se os pais dessas vítimas continuassem a defender usando suas próprias vozes. Ele aponta alguns avanços que os pais fizeram, incluindo a pressão para que o primeiro projeto de lei sobre controle de armas fosse aprovado no Congresso em décadas, em 2022.
“O que os pais podem dizer é muito poderoso e teria um impacto maior do que uma voz do túmulo projetada por IA”, diz ele.
