Perempuan tersebut menyatakan, dalam bahasa Mandarin yang diucapkan dengan aksen sedikit, bahwa pria Cina seharusnya menikahi “kami, perempuan Rusia.” Dalam video lain di platform video pendek Cina Douyin, ia menjelaskan seberapa besar cintanya pada makanan Cina, dan menjual garam dan sabun dari negaranya. “Orang Rusia tidak menipu orang Cina,” dia berjanji.
Namun, gerakan bibirnya tidak sesuai dengan audio dari video-video itu, yang baru-baru ini diposting ke akun dengan nama “Ladina.” Itu karena itu adalah rekaman Shadé Zahrai, seorang strategi karier Australia dengan lebih dari 1,7 juta pengikut TikTok, yang telah dimodifikasi menggunakan kecerdasan buatan. Seseorang memberi suara video klip Ms. Zahrai dengan suara yang berbicara dalam bahasa Mandarin untuk membuatnya tampak seolah-olah ia sedang menjual produk-produk Rusia.
Selamat datang di genre yang berkembang pesat di media sosial Cina: video-video yang dimanipulasi oleh kecerdasan buatan yang menggunakan perempuan muda yang diklaim berkebangsaan Rusia untuk mendukung hubungan Tiongkok-Rusia, menaikkan semangat patriotik, atau menghasilkan uang – dan terkadang semua tiga sekaligus.
Tidak jelas siapa di balik banyak video ini, tetapi kebanyakan akhirnya mengarahkan penonton ke tautan produk, menunjukkan bahwa tujuan utamanya adalah komersial. Dan target utama audien nampaknya adalah para pria nasionalis Tiongkok.
Video-video ini sering dilabeli dengan tagar seperti “istri Rusia” dan “kecantikan Rusia.” Para wanita yang ditampilkan menjelaskan seberapa ahli pria Cina itu, atau memohon diselamatkan oleh mereka dari kemiskinan atau negara mereka yang kurang ideal.
Seperangkat video lain menampilkan seorang wanita berambut pirang, menjelaskan rasa terima kasihnya karena telah tiba di Tiongkok.
“Saya sangat iri dengan teman-teman Cina saya. Anda lahir dengan identitas paling berharga di dunia dan bahasa yang paling dalam dan menawan,” katanya dalam video yang diposting ke platform lain, Xiaohongshu, yang mirip dengan Instagram.
Video berbeda menunjukkan wanita itu berterima kasih kepada rakyat Cina karena telah mendukung Rusia melalui kesulitan ekonomi dengan membeli cokelat Rusia darinya. “Dalam setahun terakhir, seluruh dunia memboikot Rusia, memberlakukan berbagai pembatasan dan kesulitan pada kami. Cina seperti penyelamat,” katanya.
Video-video ini terlihat jauh lebih alami, dengan gerakan bibir wanita itu diselarasakan dengan Mandarin yang lancar. Namun, mereka juga palsu. Mereka diproduksi ulang dari video-video YouTube yang diposting oleh Olga Loiek, seorang mahasiswi yang video-video aslinya tentang peningkatan diri dan tahun cutinya di Jerman.
Mengeloa video-video ini mencoba mengambil keuntungan dari pasar yang lahir dari saat ini Tiongkok dalam geopolitik, teknologi, dan sentimen publik. Hubungan antara Rusia dan Cina telah menguat secara signifikan dalam beberapa tahun terakhir, dengan pemimpin kedua negara, Vladimir V. Putin dan Xi Jinping, menyatakan kemitraan “tanpa batas” di tengah meningkatnya permusuhan dari Barat. Mr. Putin mengunjungi Beijing pekan lalu, di mana Mr. Xi menyambutnya dengan meriah.
Pemanfaatan wajah asing untuk memuji Tiongkok juga bermaksud untuk menarik rasa kebanggaan nasional, atau nasionalisme, di antara penonton Tiongkok. Konten nasionalis telah menjadi salah satu penggerak teraman lalu lintas internet di Tiongkok, dalam lingkungan sensor di mana semakin banyak topik yang dilarang.
Nasionalisme – seperti nasionalisme di seluruh dunia – sering kali mencakup jenis seksisme, kata Chenchen Zhang, seorang profesor hubungan internasional di Universitas Durham di Inggris.
“Representasi perempuan kulit putih muda dalam cara-cara yang objektifikasi seksual adalah sebuah trope khas dari nasionalisme gender, atau seksisme nasionalistik,” tulis Profesor Zhang dalam sebuah email. “Penonton dapat memperoleh kembali kebanggaan nasional dan maskulin dalam mengkonsumsi konten ini.”
Dalam beberapa video yang menampilkan citra yang dimanipulasi dari Ms. Zahrai, karakter palsu memanggil penontonnya “kakak-kakak”. Persona ini juga mencatat bahwa Rusia tidak menjual produk-produk tersebut di Jepang atau Korea Selatan, dua negara yang memiliki hubungan sulit dengan Tiongkok.
Pemerintah Tiongkok sering mendorong nasionalisme online, tetapi tidak ada indikasi bahwa ini memiliki hubungan dengan video deepfake (meskipun beberapa pemerintah setempat telah bermitra dengan perempuan Rusia nyata untuk mempromosikan pesan serupa tentang daya tarik Tiongkok). Juga ada ekonomi kecil influencer Rusia nyata, banyak dari mereka wanita muda, di media sosial Cina.
Banyak pembuat video mungkin hanya memanfaatkan penerimaan Tiongkok terhadap belanja melalui siaran langsung dan video pendek. Sejak teknologi A.I. menjadi lebih maju, beberapa perusahaan Tiongkok sudah beralih dari penjualan orang nyata ke virtual untuk menghemat biaya.
Video-video yang dihasilkan secara artifisial kemungkinan akan menjadi semakin umum sebagai taktik penjualan, karena teknologi A.I. telah berkembang begitu cepat dan menjadi jauh lebih mudah diakses oleh masyarakat umum, kata Haibing Lu, seorang profesor di Universitas Santa Clara yang mempelajari tata kelola A.I.
Perusahaan manajemen Ms. Zahrai mengatakan dalam sebuah email bahwa modifikasi A.I. itu “kualitasnya buruk”, dan bahwa “hampir pasti terlihat palsu” bahkan bagi penonton kasual. Beberapa video akun itu hanya memiliki beberapa puluh tontonan, meskipun video yang membahas pernikahan wanita Rusia memiliki 22.000 tontonan.
Tampaknya tidak masalah. Alat hitung otomatis yang muncul dalam salah satu video akun menyarankan bahwa merek garam yang dipromosikan telah dibeli 360.000 kali di seluruh platform.
Ketika The New York Times menghubungi akun Douyin dengan video Ms. Zahrai yang dimanipulasi, pemilik akun mengonfirmasi dalam sebuah pesan audio bahwa dia yang telah membuat video tersebut. “Anda menyiapkan tiga hal: audio, video, dan mulut. Anda bisa membuat video apa pun yang Anda inginkan,” katanya, sebelum memutuskan hubungan dengan seorang wartawan.
Tingkat kecanggihan varian. Beberapa wanita palsu terlihat sepenuhnya dihasilkan dari komputer, bergerak kaku, dan terlihat seperti Sims terhormat. Beberapa, seperti yang menampilkan citra Ms. Loiek, sangat bagus.
“Meskipun saya tahu itu bukan saya, realisme itu membuat takut,” kata Ms. Loiek, yang baru-baru ini mengetahui bahwa lebih dari 30 akun media sosial di Tiongkok menggunakan gambarnya. “Ketika saya memutuskan untuk membuat saluran YouTube saya, saya sadar akan bahaya deepfakes, tetapi saya percaya itu terutama menjadi perhatian bagi tokoh-tokoh politik dan hiburan terkenal. Sekarang saya menyadari bahwa siapa pun dengan rekaman video diri mereka online dapat terkena dampaknya.”
Ms. Loiek melaporkan akun-akun itu di Xiaohongshu dan membuat video YouTube tentang pengalamannya. Akhirnya, sebagian besar profil yang menggunakan gambarnya ditutup.
Dalam beberapa minggu terakhir, platform media sosial telah meningkatkan pengawasan, menghapus video A.I. atau menambahkan label pada beberapa di antaranya. Tiongkok adalah negara pertama yang mengeluarkan regulasi seputar A.I. generatif, dan secara teoretis, beberapa kebijakannya lebih ketat daripada di Barat.
Namun, negara-negara di seluruh dunia berjuang dalam menegakkan aturan mereka. Mendeteksi pelanggaran hukum mungkin sangat sulit di Tiongkok, karena lingkungan internetnya tertutup, di mana banyak platform media sosial asing dilarang.
Pengaruh asing tidak mungkin mengetahui bahwa gambar mereka telah digunakan di media sosial Tiongkok dan mengajukan keluhan hak cipta. Dan platform-platform Tiongkok mungkin juga tidak menggunakan konten luar negeri, ketika memeriksa manipulasi A.I., kata seorang pria berusia 35 tahun yang menjalankan dua akun yang menampilkan perempuan Rusia yang dihasilkan A.I. dengan hanya memberikan nama belakangnya, Chen. Dia mengatakan bahwa dia menghasilkan sekitar $1.000 per bulan dari akun tersebut sebelum menutupnya pada bulan Maret, karena takut akan regulasi yang lebih ketat.
Namun, lebih banyak yang masih berkembang. Dan Rusia mungkin menjadi topik panas sekarang, tetapi praktik ini kemungkinan akan segera menyebar ke apa pun tren berikutnya, kata Profesor Lu di Santa Clara.
“Orang-orang di balik ini akan memanipulasi topik apa pun yang mungkin untuk menarik perhatian orang,” katanya. “Tunjukkan ‘cara masuk ke sekolah-sekolah terbaik’ kepada orang tua; ‘cara menjadi cantik,’ kepada para wanita muda. Saya percaya ke depan, semua orang akan menggunakan teknologi A.I. untuk menyesuaikan topik-topik dan membuat video menarik bagi suatu audiens tertentu.”