Alasan Mengapa Deepfake Sulit Dideteksi...

KOMPAS.com - Deepfake bisa membuat tampilan visual palsu yang sangat realistis. Kecanggihan kecerdasan buatan atau artificial intelligence (AI), membuat deepfake sulit dideteksi.

Deepfake adalah istilah yang menggambarkan audio dan video rekayasa yang dibuat menggunakan kecerdasan buatan.

Karena sebagian besar deepfake dibuat melalui adversarial training (GAN), kemampuan algoritma untuk menghindari metode deteksi berbasis AI juga akan meningkat saat diperkenalkan ke sistem deteksi baru.

Wajah dan tubuh seseorang bisa dibuat sepenuhnya sintetis, misalnya dalam bentuk avatar digital.

Bahkan, dengan teknologi deepfake, orang mati seolah dapat dihidupkan kembali.

Baca juga: Deepfake, Alat Pemalsu Wajah dan Peristiwa Berbasis Video

Maksudnya, visual dari orang yang telah meninggal bisa direkayasa dengan deepfake, sehingga orang tersebut tampak melakukan suatu tindakan yang sebenarnya tidak pernah dia lakukan.

Ada titik di mana konten deepfake sulit dideteksi.

Sulitnya dideteksi

Deepfake mudah dibuat, karena aplikasinya tersedia secara bebas dan bisa diakses siapa saja.

Namun, teknologi untuk membedakan mana video asli dan mana yang buatan sangat sulit dibuat.

Pada September 2019, Facebook, dalam kemitraan dengan Microsoft, AWS, Partnership on AI (PAI) mengumumkan Tantangan Deteksi Deepfake (DFDC) di Kaggle untuk mengundang para peneliti mengembangkan algoritma pendeteksi deepfake.

PAI bahkan membentuk Komite Pengarah Integritas AI dan Media pada akhir 2019, sebagai badan resmi untuk mengembangkan, serta memberi saran pada proyek dalam rangka memerangi misinfromasi dan disinformasi, termasuk deteksi konten deepfake.

Baca juga: Berkaca dari Kepopuleran MyHeritage, Apa yang Perlu Diwaspadai dari Deepfake?

Facebook mempekerjakan 3.500 aktor untuk merekam ribuan video, sebagai data yang akan digunakan untuk melatih algoritma potensial.

Data tersebut dimanipulasi menggunakan berbagai teknik pembuatan deepfake murahan.

Sebanyak 100.000 klip video konten asli dan yang dimanipulasi, dirilis untuk kemudian ditelusuri para peneliti dan membangun algoritma pendeteksi deepfake.

Sebanyak lebih dari 2.000 peserta mengirimkan 35.000 lebih algoritma dari hasil deteksi. Dari hasil DFDC, pemenang tantangan itu mampu mendapatkan akurasi 82,56 persen.

Meskipun tampaknya tinggi, mesin algoritma yang dibangun hanya mendapatkan presisi 65,18 persen dari pendeteksian konten deepfake.