Pandji mengonfirmasi dirinya sudah mengetahui adanya online video tersebut dan menyatakan bahwa ada banyak movie serupa yang beredar.

Deepfake adalah gambar atau movie yang dihasilkan atau diubah secara sintetis menggunakan AI. Teknologi ini dapat mengubah video yang sudah ada, lalu diganti misalnya dengan wajah politisi. Alhasil seolah-olah politisi ini yang berbicara.

Dulu saya kemana-mana itu susah tidak mempunyai uang saya membuka situs pertama kali itu benar-benar hanya untuk berbagi, saya tidak mengambil keuntungan sedikitpun ini untuk semua yang telah kalah ratusan juta, saya bisa membantu keuangan kalian walaupun hanya sedikit, mungkin cuman ini yang bisa saya lakukan.

Ternyata, online video-video tersebut bukanlah rekaman asli, melainkan hasil manipulasi AI yang mampu meniru wajah dan suara para artis dengan sangat meyakinkan.

Melawan hoaks sama saja melawan pembodohan. Itu yang mendasari kami membuat Kanal Cek Fakta Liputan6.com pada 2018 dan hingga kini aktif memberikan literasi media pada masyarakat luas.

Sejumlah artis menjadi sasaran penggunaan online video modifikasi teknologi AI untuk tujuan promosi judi online dan produk pelangsing. Siapa saja mereka?

Video tersebut diduga manipulasi karena terdapat sejumlah kejanggalan, antara lain, suara presenter dan Raffi tidak sesuai dengan gerak bibirnya. 

“Tujuan saya mendirikan situs dufam 365 ini adalah untuk saya jadikan ladang berbagi-bagi kepada masyarakat Indonesia, khususnya masyarakat Indonesia yang bermain slot on the net agar mereka tidak sembarangan bermain di situs abal-abal,” kata Raffi Ahmad di movie itu.

"Kalau judi on-line ya pasti merugikan sih, apa yang nggak aku lakuin tiba-tiba ada AI yang ngomong gitu, ya nggak sesuai," ungkap Atta pada tahun 2024 lalu.

Gua yakin kalian juga bisa dapet sketer hitam tanpa trik pola apa pun di sini aku sudah berusaha agar resmi di Indonesia gua ingin kalian menang gitu aja kalau nggak dapet kalian bisa info dan itu akan langsung direspon asisten dan nggak usah perlu takut lagi.”

"Ya tujuan saya mendirikan situs ojol 69 ini untuk saya jadikan ladang amal bagi masyarakat Indonesia dan khususnya masyarakat Indonesia yang bermain slot online agar tidak sembarangan bermain di situs abal-abal, masyarakat tidak perlu khawatir lagi jika menang tidak dibayar situs saya yang dirikan ini menang berapa saja tetap dibayar dan saya memberikan jaminan maxwin dalam waktu ten menit saja."

"Ya tujuan saya mendirikan situs ojol sixty nine ini untuk saya jadikan ladang amal bagi masyarakat Indonesia dan khususnya masyarakat Indonesia yang bermain slot on line agar tidak sembarangan bermain di situs abal-abal, masyarakat tidak perlu khawatir lagi jika menang tidak dibayar situs saya yang dirikan ini menang raffi777 berapa saja tetap dibayar dan saya memberikan jaminan maxwin dalam waktu ten menit saja."

"Masyarakat di Indonesia online aku lihat-lihat suka sekali key slot on-line jadinya kenapa nggak kita coba buka aja gitu situs milik kita, kita di sini ingin tujuannya Mulia ingin berbagi ke masyarakat pertama di sini pasti dibantu maxwin dalam sixteen menit kedua RTV yang kita punya akurat ninety eight% sehingga pemain besar sekali kemungkinan menangnya."

Najwa Shihab juga pernah menjadi sasaran editan yang dilakukan kecerdasan buatan alias AI. Dalam video yang telah dimanipulasi tersebut, ia terlihat sedang mempromosikan situs judi on the net dengan klaim dapat memberikan penghasilan hingga jutaan rupiah.