A mulher declara, em mandarim flexionado com leve sotaque, que os homens chineses deveriam se casar “nós, mulheres russas.” Em outros vídeos na plataforma chinesa de vídeos curtos Douyin, ela descreve o quanto adora comida chinesa e vende sal e sabão de seu país. “O povo russo não engana o povo chinês”, ela promete.
Mas os movimentos dos lábios dela não correspondem ao áudio dos vídeos, que foram postados recentemente em uma conta usando o nome “Ladina”. Isso porque é uma filmagem de Sombra Zahrai, um estrategista de carreira australiano com mais de 1,7 milhão de seguidores no TikTok, que foi modificado usando inteligência artificial. Alguém dublou os videoclipes da Sra. Zahrai com uma voz falando chinês mandarim para fazer parecer que ela estava vendendo produtos russos.
Bem-vindo a um género florescente nas redes sociais chinesas: vídeos manipulados pela IA que usam mulheres jovens, supostamente russas, para angariar apoio para os laços China-Rússia, alimentar o fervor patriótico ou ganhar dinheiro – e por vezes todos os três ao mesmo tempo.
Não está claro quem está por trás de muitos dos vídeos, mas a maioria acaba direcionando os espectadores para um link de produto, sugerindo que o objetivo principal é comercial. E o principal público-alvo parece ser os homens chineses nacionalistas.
Os vídeos costumam ser rotulados com hashtags como “esposa russa” e “beleza russa”. As mulheres apresentadas descrevem como os homens chineses são talentosos ou imploram para serem resgatados por eles da pobreza ou de seu próprio país menos idílico.
Outro conjunto de vídeos apresenta uma mulher loira descrevendo sua gratidão por ter desembarcado na China.
“Eu realmente invejo meus amigos chineses. Você nasce com a identidade mais preciosa do mundo e com a linguagem mais profunda e encantadora”, diz ela em um vídeo postado em outra plataforma, a Xiaohongshu, que é semelhante ao Instagram.
Um vídeo diferente mostra a mulher agradecendo ao povo chinês por apoiar a Rússia em suas dificuldades econômicas, comprando-lhe chocolates russos. “No ano passado, o mundo inteiro boicotou a Rússia, impondo-nos todo o tipo de restrições e dificuldades. A China é como um salvador”, diz ela.
Esses vídeos pareciam muito mais naturais, com os lábios da mulher sincronizados com o mandarim fluente. Mas eles também são falsos. Eles foram reformulados a partir de vídeos do YouTube postados por Olga Loiekuma estudante universitária cujos vídeos reais são sobre autoaperfeiçoamento e seu ano sabático na Alemanha.
A Sra. Loiek não fala chinês. E ela nunca elogiaria a Rússia dessa forma, disse ela numa entrevista. Ela é da Ucrânia e alguns de seus parentes ainda estão lá.
Os produtores destes vídeos estão a tentar capitalizar num mercado nascido do actual momento da China em termos de geopolítica, tecnologia e sentimento público.
As relações entre a Rússia e a China aprofundaram-se significativamente nos últimos anos, com os líderes dos países, Vladimir V. Putin e Xi Jinping, a declararem uma parceria “sem limites” face à crescente hostilidade do Ocidente. Senhor Putin visitou Pequim na semana passada, onde o Sr. Xi deu-lhe as boas-vindas com grande alarde.
A utilização de rostos estrangeiros para elogiar a China também procura despertar um sentimento de orgulho nacional, ou nacionalismo, entre o público chinês. O conteúdo nacionalista tornou-se um dos drivers mais seguros de tráfego da Internet na China, num ambiente de censura onde cada vez mais temas estão fora dos limites.
Esse nacionalismo – como o nacionalismo em todo o mundo – muitas vezes incluiu uma vertente de sexismo, disse Chenchen Zhangprofessor de relações internacionais na Universidade de Durham, na Inglaterra.
“Esta representação de jovens mulheres brancas de formas sexualmente objetificadas é um tropo típico do nacionalismo de género, ou sexismo nacionalista”, escreveu a professora Zhang num e-mail. “Os espectadores podem reafirmar seu orgulho nacionalista e masculino ao consumir esse conteúdo.”
Em vários vídeos com a imagem manipulada da Sra. Zahrai, o personagem falso chamadas seus espectadores são “irmãos mais velhos”. A persona também observa que a Rússia não vende esses produtos no Japão ou na Coreia do Sul, dois países com os quais a China tem relações tensas.
O governo chinês tem frequentemente encorajado o nacionalismo online, mas não há indicação de que tenha algo a ver com os vídeos deepfake (embora alguns governos locais fizeram parceria com verdadeiras mulheres russas para promover mensagens semelhantes sobre o apelo da China). Há também uma pequena economia de verdadeiros influenciadores russos, muitos deles mulheres jovens, nas redes sociais chinesas.
Muitos dos produtores de vídeo podem simplesmente estar aproveitando a vantagem da China adoção de compras por meio de transmissão ao vivo e vídeos curtos. À medida que a tecnologia de IA se tornou mais avançada, algumas empresas chinesas já mudaram de vendedores reais a virtuais guardar dinheiro.
Os vídeos gerados artificialmente provavelmente se tornarão cada vez mais comuns como tática de vendas, uma vez que a tecnologia de IA avançou muito rapidamente e se tornou muito mais acessível ao público em geral, disse Haibing Luprofessor da Universidade de Santa Clara que estuda governança de IA.
A empresa de gestão da Sra. Zahrai disse por e-mail que as modificações da IA eram de “baixa qualidade” e que “provavelmente pareceriam falsas” mesmo para espectadores casuais. Alguns dos vídeos da conta tiveram apenas algumas dezenas de visualizações, embora aquele que discutia o casamento com mulheres russas tivesse 22 mil.
Isso não parecia importar. Um contador automatizado que aparece em um dos vídeos da conta sugere que a marca de sal lançada já foi comprada 360 mil vezes na plataforma.
Quando o The New York Times entrou em contato com a conta Douyin com os vídeos da manipulada Sra. Zahrai, o titular da conta confirmou em uma mensagem de áudio que havia feito os vídeos. “Você configura três coisas: áudio, vídeo e boca. Você pode criar qualquer vídeo que quiser”, disse ele, antes de desfazer a amizade de um repórter.
Os níveis de sofisticação variam. Algumas das mulheres falsas parecem inteiramente geradas por computador, movem-se rigidamente e parecem glorificadas. Sims. Alguns, como aqueles com a imagem da Sra. Loiek, são muito bons.
“Mesmo sabendo que não era eu, o realismo era assustador”, disse Loiek, que descobriu recentemente que mais de 30 contas diferentes de redes sociais na China tinham cooptado a sua imagem. “Quando decidi criar meu canal no YouTube, eu estava ciente dos perigos dos deepfakes, mas acreditava que era principalmente uma preocupação para figuras políticas e do entretenimento famosas. Agora percebo que qualquer pessoa que tenha vídeos de si mesmo online pode ser afetada.”
A Sra. Loiek relatou as contas em Xiaohongshu e fiz um vídeo no YouTube sobre a experiência dela. Eventualmente, a maioria dos perfis que usavam sua imagem foram encerrados.
Nas últimas semanas, as plataformas de redes sociais reforçaram o escrutínio, removendo vídeos de IA ou adicionando rótulos a alguns deles. A China foi o primeiro país a promulgar regulamentos em torno da IA generativa e, no papel, algumas das suas políticas são mais rigorosas do que as do Ocidente.
Mas os países em todo o mundo estão a lutar para fazer cumprir as suas regras. Detectar irregularidades pode ser especialmente difícil na China, devido ao seu ambiente fechado de Internet, onde muitos meios de comunicação social estrangeiros são proibidos.
É pouco provável que os influenciadores estrangeiros saibam que a sua imagem foi usada nas redes sociais chinesas e registem uma reclamação de direitos de autor. E as plataformas chinesas também podem não estar a recorrer a conteúdos estrangeiros, quando verificam a manipulação da IA, disse um homem de 35 anos que tinha duas contas com mulheres russas geradas pela IA. O homem, que forneceu apenas o seu apelido, Chen, disse que ganhava cerca de 1.000 dólares por mês com as contas antes de as fechar em Março, temendo uma maior regulamentação.
Mas mais ainda estão proliferando. E a Rússia pode ser o tema quente agora, mas a prática provavelmente se espalhará em breve para qualquer que seja a próxima tendência, disse o professor Lu, de Santa Clara.
“As pessoas por trás disso manipulariam qualquer assunto possível para atrair a atenção das pessoas”, disse ele. “Mostrar ‘como ir para as melhores escolas’ aos pais; ‘como ficar bonita’, para moças. Acredito que daqui para frente todos usarão a tecnologia de IA para personalizar tópicos e tornar os vídeos atraentes para um determinado público.”
