Barack Obama, ex-presidente dos EUA, teve a voz 'clonada' e transmitida na plataforma. Falsificações de áudio se tornaram uma nova arma para propagação de 'fake news'
Em um vídeo que circula no TikTok produzido com o uso de inteligência artificial, o ex-presidente Barack Obama — ou uma voz assustadoramente parecida com a dele — pode ser ouvido se defendendo de uma nova e explosiva teoria da conspiração sobre a morte repentina de seu ex-chefe de cozinha.
"Embora eu não consiga compreender a base das alegações feitas contra mim", diz a voz, "peço a todos que se lembrem da importância da união, da compreensão e de não se precipitar em julgamentos".
De fato, a voz não era a do ex-presidente. Era uma falsificação convincente, gerada por inteligência artificial usando novas ferramentas sofisticadas que podem clonar vozes reais para criar fantoches de IA com apenas alguns cliques.
Impulso com novas tecnologias
A tecnologia usada para criar vozes de IA ganhou força e amplo alcance desde que empresas como a ElevenLabs lançaram uma série de novas ferramentas no fim do ano passado.
De lá para cá, as falsificações de áudio se tornaram rapidamente uma nova arma no campo de batalha das fake news, ameaçando turbinar a desinformação política antes da eleição de 2024, oferecendo aos criadores uma maneira de colocar suas teorias da conspiração na boca de celebridades, apresentadores de TV e políticos.
O áudio falso se soma às ameaças geradas por IA de vídeos deepfake, escrita semelhante à humana do ChatGPT e imagens de serviços como o Midjourney, gerador de imagens.
Pessoas e empresas que monitoram a propagação de fake news notaram que o número de vídeos contendo vozes geradas por IA aumentou à medida que os produtores de conteúdo e os vendedores de desinformação adotaram essas novas ferramentas. As plataformas sociais, incluindo o TikTok, estão se esforçando para sinalizar e rotular esse conteúdo.
O vídeo com a suposta voz de Obama foi descoberto pela NewsGuard, uma empresa que monitora a desinformação on-line. Ele foi publicado por uma das 17 contas do TikTok que promovem afirmações infundadas com áudio falso que a empresa identificou, de acordo com um relatório divulgado pelo grupo em setembro.
A maioria das contas publicou vídeos sobre rumores de celebridades usando a narração de uma voz de IA, mas também promoveu a informação inverídica de que Obama é gay, além da teoria da conspiração de que a apresentadora americana Oprah Winfrey está envolvida no comércio de escravos.
Os canais receberam, em conjunto, centenas de milhões de visualizações e comentários que sugeriam que alguns espectadores acreditavam em tais alegações.
Embora os canais não tivessem uma agenda política óbvia, disse a NewsGuard, o uso de vozes criadas por IA para compartilhar principalmente fofocas e boatos obscenos ofereceu um caminho para os malfeitores que desejam manipular a opinião pública e compartilhar falsidades para audiências de massa via internet.
É uma maneira de essas contas se estabelecerem, conquistarem seguidores que possam atrair o envolvimento de um público amplo — disse Jack Brewster, editor corporativo da NewsGuard. Quando tiverem a credibilidade de ter um grande número de seguidores, poderão mergulhar em um conteúdo mais conspiratório.
Embora o relatório da NewsGuard tenha se concentrado no TikTok, que tem se tornado cada vez mais uma fonte de notícias, foi encontrado conteúdo semelhante sendo disseminado em YouTube, Instagram e Facebook.
Plataformas como o TikTok permitem conteúdo gerado por IA de figuras públicas, incluindo apresentadores de notícias, desde que não espalhem fake news. Vídeos de paródias mostrando conversas geradas por IA entre políticos, celebridades ou líderes empresariais — alguns já falecidos — se espalharam amplamente desde que as ferramentas se tornaram populares.
O áudio manipulado é uma nova opção para a divulgação de vídeos enganosos nas plataformas que já apresentaram versões falsas de Tom Cruise, Elon Musk e apresentadores de noticiários americanos, como Gayle King e Norah O'Donnell.
E não para por aí: o TikTok e outras plataformas têm enfrentado uma série de anúncios enganosos ultimamente com deepfakes de celebridades como Cruise e a estrela do YouTube, Mr. Beast.
Poder das ferramentas de IA
O poder dessas tecnologias pode influenciar profundamente os espectadores, alerta Claire Leibowicz, diretora de IA e integridade de mídia da Partnership on AI, que trabalhou com empresas de tecnologia e mídia em um conjunto de recomendações para criar, compartilhar e distribuir conteúdo gerado por IA:
Sabemos que o áudio e o vídeo talvez sejam mais persistentes em nossa memória do que o texto.
O TikTok exige rótulos que informam que o conteúdo aparentemente realista gerado por IA é falso, mas eles não apareceram nos vídeos sinalizados pela NewsGuard.
A plataforma de vídeos curtos, de propriedade da gigante chinesa ByteDance, disse que removeu ou parou de recomendar várias das contas e vídeos por violarem as políticas de se passar por organizações de notícias e espalhar desinformação prejudicial.
Também removeu o vídeo que usava a voz gerada por IA que imitava a de Obama por violar a política de mídia sintética do TikTok, pois continha conteúdo altamente realista não rotulado como alterado ou falso.
Fonte: Extra