Deepfake adalah teknologi yang menggunakan kecerdasan buatan (AI) untuk menghasilkan video atau audio yang tampak begitu nyata, meskipun sebenarnya tidak ada. Teknologi ini mampu merubah wajah orang dalam video atau meniru suara mereka, sehingga menciptakan konten yang dapat menyesatkan.
Istilah "deepfake" muncul pada tahun 2017 ketika seorang pengguna Reddit menciptakan subreddit bernama "deepfakes." Di dalam komunitas ini, pengguna mulai membagikan video yang menggabungkan gambar wajah selebriti dengan konten pornografi, sehingga menciptakan ketidakbenaran yang terlihat meyakinkan.
Teknologi yang mendasari deepfake adalah algoritma pembelajaran mendalam. Komputer dilatih menggunakan kumpulan data besar untuk mengenali dan mereplikasi karakteristik wajah atau suara. Dalam konteks ini, kata "deep" mengacu pada metodologi pembelajaran mesin yang mendalam, sedangkan "fake" berarti konten yang tidak nyata.
Cara Pembuatan Deepfake
Pembuatan sebuah deepfake melibatkan penggunaan dua algoritma pembelajaran mendalam. Algoritma pertama berfungsi untuk menciptakan sebuah replika wajah atau suara dari gambar atau audio asli. Sementara itu, algoritma kedua bertugas mendeteksi apakah hasilnya adalah konten yang palsu. Proses ini berlangsung secara iteratif, di mana algoritma pertama menghasilkan konten, dan algoritma kedua memberikan umpan balik untuk menyempurnakan hasilnya hingga tampak lebih realistis.
Proses pembuatan video dan audio deepfake melibatkan pengumpulan data dari gambar dan suara orang target. Dalam video deepfake, suara dapat diproduksi dengan memberikan data audio asli kepada model AI, yang dilatih untuk menirukan intonasi dan pola bicara individu. Metode ini sering digunakan untuk meng-overdub rekaman suara dengan hasil tiruan dari AI.
Dampak Negatif dari Deepfake
Meskipun teknologi deepfake memiliki beberapa aplikasi yang positif, seperti dalam film atau seni, penggunaannya yang merugikan semakin meningkat. Salah satu dampak terburuk dari teknologi ini adalah kemudahan dalam melakukan penipuan.
Deepfake dapat digunakan untuk menyamar sebagai orang lain dengan tujuan menipu atau memeras, seperti yang terjadi dalam beberapa kasus penipuan bisnis besar.
Selain penipuan, deepfake juga terkait dengan kejahatan seksual. Misalnya, teknologi ini telah digunakan untuk menciptakan konten pelecehan anak yang sangat berbahaya. Para pelaku kejahatan bisa membuat ribuan gambar dan video sintetis yang melanggar hukum yang semakin memperparah eksploitasi anak.
Dari sudut pandang sosial dan politik, deepfake berpotensi menciptakan ketidakstabilan. Informasi palsu yang dihasilkan dapat disebarkan dengan mudah yang mengakibatkan penyebaran disinformasi, terutama terkait berita dan peristiwa politik. Hal ini dapat menimbulkan kebingungan di kalangan masyarakat dan merusak kepercayaan publik terhadap media.
Deteksi Deepfake dan Solusi
Mencegah dampak negatif dari deepfake memerlukan upaya untuk mendeteksi konten yang dihasilkan oleh teknologi ini. Beberapa metode deteksi sedang dikembangkan, termasuk analisis berbasis AI yang mampu mengenali anomali dalam video dan audio. Teknologi ini menganalisis pola pixel yang tidak konsisten atau perilaku suara yang tidak biasa yang dapat menandakan keberadaan deepfake.
Berikut beberapa tips untuk membedakan konten deep fake:
-
Perhatikan wajah karena manipulasi deepfake hampir selalu berupa transformasi wajah.
-
Hasil deepfake sering tidak kongruen sehingga kita harus memperhatikan pipi dan dahi. Apakah ada yang terlihat janggal atau terlalu tidak manusiawi.
-
Efek alami sering terlewat dari deepfake, sehingga detail seperti mata dan alis sering tampak tak alami jika diperhatikan dengan sungguh-sungguh.
-
Apabila orang di dalam video menggunakan kacamata perhatian pantulan cahaya karena deepfake sering gagal menunjukkan efek alami pencahayaan.
-
Perhatikan juga rambut di area wajah yang sering tampak tidak alami.
-
Perhatikan juga tahi lalat yang mungkin tampak tidak alami.
-
Perhatikan kedipan yang mungkin terlalu sering atau terlalu jarang.
-
Ukuran dan warna bibir juga mungkin terlihat tidak alami.