"Deepfake, Al-Crime", UU PDP, dan KUHP Baru

Modus deepfake tidak hanya digunakan untuk penipuan online bermotif keuangan, tetapi juga fitnah, pencemaran nama baik, hoax dan ujaran kebencian. Deepfake akan berdampak negatif terhadap platform ekonomi digital.

Sebagaimana dilansir Washington Post (5/3/2023), dengan judul They thought loved ones were calling for help. It was an AI scam, melaporkan bahwa dengan deepfake penipu melakukan modus menyarukan identitas dan suara, sehingga korban mengira orang yang dicintai sedang meminta bantuan. Modusnya klasik, meminta korban mentrasfer uang.

Penipu menggunakan AI dalam aksinya, sehingga suaranya terdengar persis seperti anggota keluarga yang sedang dalam kesulitan.

Korban dalam wawancara dengan Washington Post mengatakan, mereka belakangan menyadari telah ditipu ribuan dollar Amerika.

Modus konservatif penipuan melalui sarana telekomunikasi sudah banyak terjadi. Penipu biasanya menelepon korban pada waktu yang paling rentan, seperti malam hari atau jelang subuh.

Kondisi korban yang baru terjaga dari tidur dan sulitnya menghubungi keluarga atau kerabat yang dijadikan obyek oleh penipu, memungkinkan modus ini bisa berjalan sesuai target.

Raef Meeuwisse, pakar AI dan penulis Artificial Intelligence for Beginners, melalui publikasinya berjudul The Biggest AI Moment Ever for Cybercrime Just Happened (24/3/2023), antara lain menyatakan, pencurian dan penggunaan ulang model AI, tidak hanya dapat dilakukan oleh penjahat dunia maya profesional dan canggih. Kejahatan ini dapat dilakukan dengan menggunakan perangkat keras yang sangat kecil dan murah.

Situasi ini tentu mengkhawatirkan, karena modus penipuan yang dikira banyak orang harus dilakukan dengan instrumen mahal, justru dapat dilakukan seperti itu.

Rekayasa digital melalui teknologi telah mempermudah pelaku untuk meniru suara dan bentuk visual.

Dilansir dari laporan US Federal Trade Commission (FTC), pada 2022 lebih dari 36.000 laporan tentang penipuan dengan modus deepfake, dengan modus berpura-pura sebagai teman dan keluarga.

Menurut FTC, lebih dari 5.100 insiden terjadi melalui telepon dengan kerugian lebih dari 11 juta dollar AS.

Kembali ke Raef Meeuwisse, ia mengatakan bahwa sebagai industri tidak hanya dapat mengandalkan kebijakan dan kontrol melalui perusahaan AI besar untuk mencegah penggunaan AI yang berbahaya.

Penjahat cerdas ada di mana-mana, dapat mencuri dan menggunakan kembali AI, dengan cara yang sebelumnya diprediksi dapat dicegah. Hal ini menunjukan bahwa sistem keamanan siber skala besar dalam kasus tertentu tetap rentan dari kejahatan.

AI telah memungkinkan pelaku kejahatan mereplikasi suara dengan sampel audio hanya beberapa kalimat.

Menurut Raef Meeuwisse, didukung oleh AI, sejumlah perangkat daring murah dapat menerjemahkan file audio menjadi replika suara, penipu bisa "berbicara" apa pun dengan mengetiknya.