Uma mulher declara, em mandarim com um sotaque leve, que os homens chineses deveriam se casar com “nós, mulheres russas”. Em outros vídeos na plataforma de vídeo curto chinesa Douyin, ela descreve o quanto ama a comida chinesa e vende sal e sabão de seu país. “Os russos não enganam os chineses”, promete.

No entanto, seus movimentos labiais não correspondem exatamente ao áudio dos vídeos, que foram recentemente postados em uma conta usando o nome “Ladina”. Isso porque são imagens de Shadé Zahrai, estrategista de carreira australiana com mais de 1,7 milhão de seguidores no TikTok, que foram modificadas usando inteligência artificial. Alguém dublou os clipes de vídeo da Sra. Zahrai com uma voz falando mandarim chinês para que parecesse que ela estivesse vendendo produtos russos.

Bem-vindo a um gênero florescente nas redes sociais chinesas: vídeos manipulados por inteligência artificial que usam jovens mulheres supostamente russas para promover os laços China-Rússia, estimular o fervor patriótico ou ganhar dinheiro – e às vezes tudo isso ao mesmo tempo.

Não está claro quem está por trás de muitos dos vídeos, mas a maioria eventualmente direciona os espectadores para um link de produto, indicando que o objetivo principal é comercial. E o público-alvo principal parece ser homens nacionalistas chineses.

Os vídeos muitas vezes são rotulados com hashtags como “esposa russa” e “beleza russa”. As mulheres apresentadas descrevem o quanto os homens chineses são talentosos, ou imploram para serem resgatadas por eles da pobreza ou de seu próprio país menos idílico.

Outro conjunto de vídeos apresenta uma mulher loira, descrevendo sua gratidão por ter chegado à China.

Esses vídeos pareciam muito mais naturais, com os lábios da mulher sincronizados com o mandarim fluente. Mas eles também são falsos. Foram reeditados a partir de vídeos do YouTube postados por Olga Loiek, uma estudante universitária cujos vídeos reais são sobre autoaperfeiçoamento e seu ano sabático na Alemanha.

A Sra. Loiek não fala chinês. E ela nunca elogiaria a Rússia daquela forma, disse em uma entrevista. Ela é da Ucrânia, e alguns de seus parentes ainda estão lá.

Os fabricantes desses vídeos estão tentando capitalizar em um mercado originado do momento geopolítico atual da China, tecnologia e sentimento público.

As relações entre Rússia e China se aprofundaram significativamente nos últimos anos, com os líderes dos países, Vladimir V. Putin e Xi Jinping, declarando uma parceria “sem limites” em face da crescente hostilidade do Ocidente. O Sr. Putin visitou Pequim na semana passada, onde foi recebido com grande pompa pelo Sr. Xi.

O uso de rostos estrangeiros para elogiar a China também busca explorar um senso de orgulho nacional ou nacionalismo entre o público chinês. O conteúdo nacionalista se tornou um dos drivers mais certos de tráfego na internet na China, em um ambiente de censura onde cada vez mais tópicos são proibidos.

Esse nacionalismo – como o nacionalismo em todo o mundo – frequentemente inclui uma dose de sexismo, disse Chenchen Zhang, professor de relações internacionais na Universidade de Durham, na Inglaterra.

“Essa representação de mulheres brancas jovens de forma sexualizada é um trope típico de sexismo nacionalista, ou sexismo nacionalista”, escreveu o professor Zhang em um e-mail. “Os espectadores podem ter seu orgulho nacional e masculino reafirmado consumindo esse conteúdo”.

Em vários vídeos apresentando a semelhança manipulada da Sra. Zahrai, a personagem falsa chama seus espectadores de “irmãos mais velhos”. A persona também observa que a Rússia não está vendendo esses produtos no Japão ou na Coréia do Sul, dois países com os quais a China tem relações tensas.

O governo chinês muitas vezes incentivou o nacionalismo online, mas não há indicação de que tenha algo a ver com os vídeos deepfake (embora alguns governos locais tenham se associado a mulheres russas reais para promover mensagens semelhantes sobre o apelo da China). Também existe uma pequena economia de influenciadores russos reais, muitos deles jovens mulheres, nas redes sociais chinesas.

Muitos dos produtores de vídeo podem estar simplesmente se aproveitando da aceitação da China de compras via transmissão ao vivo e vídeos curtos. À medida que a tecnologia de IA se tornou mais avançada, algumas empresas chinesas já mudaram de vendedores reais para virtuais para economizar dinheiro.

Vídeos gerados artificialmente devem se tornar cada vez mais comuns como tática de vendas, uma vez que a tecnologia de IA avançou rapidamente e se tornou muito mais acessível ao público em geral, disse Haibing Lu, professor da Universidade de Santa Clara que estuda governança de IA.

A empresa de gestão da Sra. Zahrai disse em um e-mail que as modificações de IA eram de “baixa qualidade” e que elas “provavelmente pareceriam falsas” até para espectadores casuais. Alguns dos vídeos da conta tiveram apenas algumas dezenas de visualizações, embora o que discutia se casar com mulheres russas tivesse 22.000.

Não parece importar. Um contador automático que surge em um dos vídeos da conta sugere que a marca de sal anunciada já foi comprada 360.000 vezes em toda a plataforma.

Quando o New York Times entrou em contato com a conta Douyin com os vídeos da Sra. Zahrai manipulada, o titular da conta confirmou em uma mensagem de áudio que fez os vídeos. “Você configura três coisas: áudio, vídeo e boca. Você pode construir qualquer vídeo que desejar”, disse ele, antes de remover um repórter da lista de contatos.

Os níveis de sofisticação variam. Algumas das mulheres falsas parecem inteiramente geradas por computador, se movem de forma rígida e parecem como Sims glorificados. Algumas, como aquelas com a semelhança da Sra. Loiek, são muito boas.

“Mesmo sabendo que não era eu, o realismo era assustador”, disse a Sra. Loiek, que recentemente descobriu que mais de 30 contas de mídia social na China haviam apropriado sua imagem. “Quando decidi criar meu canal no YouTube, estava ciente dos perigos dos deepfakes, mas acreditava que era principalmente uma preocupação para figuras políticas e de entretenimento famosas. Agora eu percebo que qualquer pessoa com imagens de vídeo delas online pode ser afetada”.

A Sra. Loiek denunciou as contas no Xiaohongshu e fez um vídeo no YouTube sobre sua experiência. Eventualmente, a maioria dos perfis que usavam sua imagem foi encerrada.

Nas últimas semanas, as plataformas de mídia social aumentaram a escrutina, removendo vídeos de IA ou adicionando rótulos a alguns deles. A China foi o primeiro país a promulgar regulamentações em torno da IA generativa, e, no papel, algumas de suas políticas são mais rigorosas do que as do Ocidente.

Mas os países em todo o mundo estão lutando para fazer valer suas regras. Detectar atividades impróprias pode ser especialmente difícil na China, devido ao seu ambiente de internet fechado, onde muitas redes sociais estrangeiras são proibidas.

Os influenciadores estrangeiros provavelmente não sabem que sua imagem foi usada nas redes sociais chinesas e apresentam uma reclamação de direitos autorais. E as plataformas chinesas também podem não estar recorrendo a conteúdo estrangeiro ao verificar a manipulação de IA, disse um homem de 35 anos que administrava duas contas apresentando mulheres russas geradas por IA. O homem, que deu apenas seu sobrenome, Chen, disse que ganhava cerca de US $1.000 por mês com as contas antes de fechá-las em março, temendo uma maior regulamentação.

Mas elas continuam a se proliferar. E a Rússia pode ser o assunto quente agora, mas a prática provavelmente se espalhará em breve para o que for a próxima tendência, disse o Professor Lu, de Santa Clara.

“As pessoas por trás disso manipulariam qualquer tópico possível para atrair a atenção das pessoas”, disse ele. “Mostre ‘como ir para as melhores escolas’ para os pais; ‘como se tornar bonita’, para as jovens. Acredito que no futuro, todo mundo usará a tecnologia de IA para personalizar tópicos e fazer vídeos atrativos para um determinado público.”