"Deepfake, Al-Crime", UU PDP, dan KUHP Baru

Celah keamanan siber seringkali lahir karena social engineering. Sebagai contoh meskipun bank telah menggunakan sistem keamanan canggih, tetap saja ada nasabah yang tertipu hanya karena lalai mengirim OTP ke orang yang tak dikenal setelah tertipu dengan cara deepfake.

Deepfake juga seringkali memanfaatkan konten pornografi. Bianca Britton mengutip pendapat Hany Farid, profesor ilmu komputer di University of California, Berkeley (2023) menyatakan bahwa deepfake adalah fenomena yang “benar-benar semakin buruk” karena semakin mudah untuk menghasilkan video yang canggih dan realistis melalui aplikasi dan situs web otomatis.

Profesor Hany Farid menyatakan bahwa teknologi ini sangat advance sehingga dapat menghasilkan gambar dari statistik pelatihan yang relatif kecil, bukan video berjam-jam yang biasanya butuhkan.

Di AS para ahli mengatakan, regulator federal, penegak hukum, dan pengadilan seringkali tidak siap untuk mengendalikan penipuan yang berkembang.

Sebagian besar korban hanya memiliki sedikit petunjuk untuk mengidentifikasi pelaku. Maka sulit bagi polisi untuk melacak telepon dan dana dari penipu yang beroperasi di seluruh dunia.

Profesor Hany yang ahli forensik digital, menyebut hal ini sebagai sesuatu yang mengerikan dan dampak gelap dari kebangkitan AI generatif yang mendukung perangkat lunak membuat teks, gambar, atau suara berdasarkan data yang diberikannya.

Perkembangan matematika dan komputasi telah meningkatkan mekanisme pelatihan untuk perangkat lunak semacam itu, mendorong lahirnya chatbots, pembuat gambar, dan pembuat suara seperti aslinya.

Aplikasi penghasil suara AI menganalisis unsur suara unik seseorang, termasuk usia, jenis kelamin, dan aksen, serta mencari basis data suara yang luas untuk menemukan suara yang serupa dan memprediksi polanya.

Berdasarkan hal itu kemudian diciptakan kembali nada, timbre, dan suara individu dari suara target, untuk menciptakan efek keseluruhan yang serupa.

Sampel audio singkat diambil dari berbagai platform digital seperti YouTube, podcast, iklan, TikTok, Instagram atau video Facebook. Hanya butuh suara target selama 30 detik, untuk dapat mengkloning suara target.

Banyak Start up di bidang AI yang dapat mengubah sampel vokal pendek menjadi suara yang dihasilkan secara sintetis melalui instrumen text-to-speech, dan secara gratis pula. Jika pun berbayar biayanya antara 5 dollar AS dan 330 dollar AS per bulan.

Lebih lanjut, Profesor Hany Farid dalam artikel berjudul Creating, Using, Misusing, and Detecting Deep Fakes (Published 2022) menyebut deepfake sebagai media sintetik yang menangkap imajinasi beberapa orang, menimbulkan ketakutan pada orang lain.

Pemalsuan mengacu pada teks, gambar, audio, atau video yang telah disintesis secara otomatis oleh sistem pembelajaran mesin.

UU PDP dan KUHP Baru

Di Indonesia, ketentuan terkait deepfake terdapat pada UU No. 27 Tahun 2022 tentang Pelindungan Data Pribadi. UU PDP pada pasal 66 jo. pasal 68 prinsipnya melarang dan mengancam pidana, terhadap siapa saja yang membuat data pribadi palsu.

Ketentuan lain juga terdapat pada UU No. 1 tahun 2023 tentang Kitab Undang-Undang Hukum Pidana, atau yang dikenal dengan KUHP Baru. Dalam KUHP baru deepfake bermuatan penghinaan dan pencemaran nama baik diancam dengan pidana berdasarkan pasal 433, 434, 436 jo. pasal 441.