“Por volta de um mês depois de iniciar meu canal no YouTube, comecei a receber mensagens de pessoas dizendo que me viam online falando mandarim e achavam que não era eu e que alguém estava roubando minha identidade.” Olga Loiek estava buscando atrair seguidores na internet, mas não dessa forma.
https://www.youtube.com/shorts/hSCFkTT16y8
A jovem de 21 anos diz que sua imagem foi capturada e manipulada por inteligência artificial para criar alteregos em plataformas chinesas de mídia social.
Este é apenas um dos clones digitais de Loiek – que se apresenta como uma russa chamada Natasha que, em mandarim fluente, agradece à China pelo apoio à Rússia.
“Eu vi que era literalmente meu rosto falando mandarim e, ao fundo, eu via o Kremlin e Moscou, e eu estava falando sobre coisas como quão grandes são a Rússia e a China. E meu clone está anunciando diferentes produtos russos”, diz Olga
O rosto de Loiek representa um número crescente de jovens russas nas redes sociais chinesas, mas é possível que nenhuma delas realmente exista.
São geradas por IA usando clipes de mulheres reais compartilhados online, muitas vezes sem consentimento. Segundo especialistas, os avatares costumam promover produtos para homens solteiros chineses.
Muito real
A XMOV é uma empresa chinesa que desenvolve tecnologia avançada de IA, mas não está envolvida no caso de Loiek. Seu diretor diz que a tecnologia que cria tais deepfakes é muito comum no país.
“Por exemplo, para produzir meu próprio humano digital 2D, eu só preciso gravar um vídeo de 30 minutos de mim mesmo, e depois de finalizar isso, eu retrabalho o vídeo. Claro, parece muito real, e claro, se você mudar o idioma, a única coisa que você precisa ajustar é a sincronização labial. Na verdade, a única tecnologia usada aqui na AIGC é a sincronização labial”, diz Jim Chai, CEO da XMOV.
O uso da tecnologia deepfake intensificou as preocupações sobre como a IA pode ser aplicada para a desinformação, fake news e questões de direitos autorais.
Em janeiro, a China emitiu diretrizes preliminares para padronizar tal setor propondo formar mais de 50 padrões nacionais e industriais para inteligência artificial até 2026.
Na Europa, o novo Ato de IA da UE impõe obrigações de transparência rigorosas em sistemas de IA de alto risco.
Ainda assim, muitos governos correm para acompanhar o ritmo das aplicações dessa tecnologia e algumas pessoas, como Loiek, acabam sendo prejudicadas no caminho.
“Eu realmente não gosto do fato de que qualquer um pode usar o rosto de outra pessoa para fazê-la dizer qualquer coisa que você queira. E eu realmente não gosto que meu rosto possa ser apresentado como alguém completamente diferente, como alguém que nunca diria essas coisas. Eu não sou a pessoa que diria essas coisas na minha vida. E eu não quero que ninguém acredite que eu diria.”
