Namun, yang mengkhawatirkan bukan hanya kemajuannya yang seolah tak terbendung, tetapi juga dampaknya yang semakin luas. Bahkan tanpa harus mencapai tingkat kesempurnaan, deepfake sederhana sudah cukup untuk menimbulkan kekacauan, terutama di tengah masyarakat dengan tingkat literasi yang rendah.
Presiden Prabowo pernah menjadi objek deepfake yang berhasil menipu belasan orang dengan kerugian hingga puluhan juta rupiah. Modus operandi yang digunakan cukup sederhana, yakni dengan mengunggah dan menyebarluaskan video tersebut di platform media sosial, sehingga tampak seolah-olah pemerintah sedang menawarkan bantuan kepada masyarakat yang membutuhkan.
Dalam video tersebut, disematkan nomor WhatsApp, di mana calon korban yang menghubungi akan diminta untuk mentransfer sejumlah uang dengan alasan biaya administrasi.
Baca Juga:7 Rekomendasi Motor Terbaik untuk Touring Saat Ini, Cocok untuk PetualangBukan Hanya Soal Pertamax Oplosan, Begini Cara SPBU Pertamina Lakukan Kecurangan
Anda mungkin berpikir bahwa kerugian ini tidak terlalu besar, atau merasa yakin bahwa Anda tidak akan mudah tertipu oleh video AI semacam itu. Namun, bagaimana jika teknologi AI semakin canggih, dengan angka kerugian yang jauh lebih besar dan metode penipuan yang lebih sulit dideteksi?
Kasus Deepfake di Seluruh Dunia
Pada pertengahan Januari 2025, seorang pekerja di bagian keuangan sebuah perusahaan multinasional di Hong Kong menerima pesan yang mengaku berasal dari CFO kantor pusat di Inggris. Pekerja tersebut diminta untuk melakukan transaksi rahasia.
Awalnya, ia curiga bahwa ini adalah upaya phishing. Namun, ketika diminta untuk menghadiri konferensi video, ia melihat rekan-rekannya yang lain juga hadir dalam pertemuan tersebut dengan wajah dan suara yang tampak sangat nyata.
Belakangan terungkap bahwa semua itu hanyalah rekayasa deepfake yang sangat canggih. Akibatnya, perusahaan mengalami kerugian lebih dari Rp400 miliar. Peristiwa serupa juga telah terjadi di berbagai belahan dunia.
Deepfake Elon Musk digunakan untuk melakukan penipuan di dunia kripto. Deepfake Vladimir Putin dan Volodymyr Zelensky turut mewarnai konflik Rusia-Ukraina. Deepfake Paus Fransiskus mengenakan pakaian Balenciaga, serta deepfake Presiden Jokowi yang berbicara fasih dalam bahasa Mandarin dan membuat banyak orang terkejut.
Sayangnya, ini baru permulaan. Jika tidak ditangani atau diantisipasi dengan baik, bukan mustahil deepfake akan menjadi ancaman serius bagi kita semua dalam waktu dekat. Ancaman itu tidak lagi sekadar kemungkinan—ia sudah berada di depan mata.