• Home
  • Química
  • Astronomia
  • Energia
  • Natureza
  • Biologia
  • Física
  • Eletrônicos
  • Discursos da ONU preparados por inteligência artificial são bastante credíveis

    Crédito CC0:domínio público

    Aqueles que se preocupam com a inteligência artificial ser tão boa que sai do controle e tornam os humanos vítimas de mentiras falsas que se apresentam como verdade devem ignorar o estudo recente que certamente perturbará seu sono. O artigo analisa uma implementação bem-sucedida de discursos gerados por IA.

    Ouço, esses tempos loucos ficarão mais loucos. As pessoas atrás da linha pontilhada continuarão gritando notícias falsas sobre qualquer item que contenha informações conflitantes com suas opiniões. As pessoas atrás da linha listrada vão gritar notícias falsas porque, Nós vamos, as palavras podem ser notícias falsas (e fotos, e vídeos de talk-head) gerados por inteligência artificial.

    TechCrunch foi um dos sites que relatou a pesquisa e como leva apenas menos de dez dólares para fabricar um discurso da ONU usando IA. Deixe sozinho menos de dez dólares, a façanha foi realizada usando ainda menos do que isso.

    "A equipe conseguiu um modelo de linguagem prontamente disponível, "disse Donovan Alexander em Engenharia Interessante . Ele disse que os componentes de teste eram "um modelo simples de aprendizado profundo e armazenamento barato em nuvem".

    TechCrunch Jonathan Shieber disse que com menos de US $ 7,80 e 13 horas de programação, "pesquisadores das Nações Unidas foram capazes de desenvolver um programa que poderia elaborar discursos aparentemente realistas para a Assembleia Geral das Nações Unidas."

    Joseph Bullock e Miguel Luengo-Oroz foram os dois pesquisadores que realizaram o experimento. O objetivo deles:treinar um modelo de linguagem que possa gerar texto em estilo de discurso sobre tópicos que vão de mudanças climáticas a terrorismo.

    Eles discutiram seu trabalho em seu artigo disponível no arXiv, "Geração automatizada de fala a partir de declarações da Assembleia Geral da ONU:mapeando riscos em textos gerados por IA."

    De onde vêm os números de custo e tempo de treinamento? Os autores do artigo disseram que o modelo de linguagem foi treinado em menos de 13 horas em GPUs NVIDIA K80, custando tão pouco quanto $ 7,80 em instâncias spot da AWS.

    Os dois autores deste artigo fazem parte da Global Pulse, que é uma iniciativa da ONU do Secretário-Geral das Nações Unidas. Seu foco está em big data, ou seja, promovendo o progresso de maneiras de aproveitar o big data com segurança e responsabilidade.

    Eles alimentaram em inglês transcrições de discursos entre 1970 e 2015 na Assembleia Geral da ONU. Resultados:o software deles pode gerar de 50 a 100 palavras por tópico com apenas a entrada de uma ou duas frases relevantes para o tópico do título.

    Alexander observou que esses discursos "seriam fortes o suficiente para envolver multidões na ONU hoje."

    Seu modelo comumente usado foi treinado na Wikipedia, e mais tarde alimentou 40 anos de discursos proferidos por líderes políticos na Assembleia Geral da ONU.

    Shieber relatou mais sobre as descobertas. O programa Em cerca de 90 por cento dos casos foi capaz de gerar um texto com credibilidade suficiente para vir de um orador da Assembleia Geral sobre um tópico político ou relacionado a um assunto que foi abordado pelo secretário-geral.

    Karen Hao, MIT Technology Review :Os pesquisadores testaram o modelo em três tipos de solicitações:tópicos gerais (por exemplo, "mudanças climáticas"), linhas de abertura das observações do Secretário-Geral da ONU, e frases inflamatórias (por exemplo, "os imigrantes são os culpados ...").

    Não surpreendentemente, eles encontraram resultados da primeira categoria semelhantes aos discursos reais da ONU em cerca de 90% das vezes. Produtos da terceira categoria, Contudo, exigiu mais trabalho para gerar, produzindo resultados convincentes em cerca de 60% do tempo.

    Apesar disso, tudo isso deixou Shieber com uma conclusão animadora, que "a era dos deepfakes chegou e que os textos falsos podem ser uma ameaça tão grande quanto os vídeos falsos. Talvez mais, dado o quão barato eles são para serem produzidos. "

    E quanto aos autores? Com certeza, sua própria motivação era, em suas próprias palavras, "para aumentar a conscientização sobre os perigos da geração de texto de IA para a paz e a estabilidade política."

    Alexandre, em particular, gritou como era fácil e barato retirar o texto do discurso falso como itens confiáveis. Ele escreveu que "há uma boa chance em um futuro próximo, com poucos ou nenhum recurso, as pessoas podiam criar discursos de IA e conteúdo político para espalhar informações incorretas ou simplesmente usá-las para ganhos políticos. "

    Não é possível verificar nos registros da ONU para ter certeza de que o item em questão é real, não é falso? Muitas pessoas não se preocuparão em verificar ou sentir o impulso de fazê-lo. Os autores escreveram que pode-se gerar um texto polêmico para um discurso, ou até mesmo criar um vídeo "profundamente falso" da pessoa que está fazendo o discurso, "Dado que todas essas informações podem ser publicadas instantaneamente nas redes sociais, muitos indivíduos não verificarão a transcrição original e presumirão que seja verdadeira. "

    Mais esforços para detectar e responder ao conteúdo gerado por IA, por sua vez, serão bem-vindos.

    © 2019 Science X Network




    © Ciência https://pt.scienceaq.com