Skandal Aplikasi Pornografi "Deepfake" Guncang Kota Kecil Spanyol dan AS

MADRID, KOMPAS.com - Miriam al-Adib pertama kali mengetahui foto-foto tak senonoh putrinya ketika pulang dari perjalanan bisnis. 

"Ibu," kata putrinya. "Saya ingin menunjukkan sesuatu kepada ibu."

Gadis berusia 14 tahun itu membuka ponselnya dan menunjukkan gambar dirinya yang eksplisit. 

Baca juga: Beredar Ratusan Video Porno yang Dibuat lewat AI di Ekuador

"Sangat mengejutkan ketika Anda melihatnya," kata Adib, seorang dokter kandungan di kota Almendralejo, Spanyol selatan dan ibu dari empat anak perempuan. "Gambar itu benar-benar realistis ... Jika saya tidak mengenal tubuh putri saya, saya akan mengira gambar itu nyata."

Yang dimaksud dengan gambar itu adalah deepfake, salah satu dari lusinan gambar telanjang siswi sekolah di Almendralejo yang dibuat kecerdasan buatan (artificial intelligence/AI).

Deepfake tersebut telah beredar di kota itu selama berminggu-minggu di grup WhatsApp yang dibuat oleh anak-anak sekolah lainnya.

Laporan dari Guardian menyebut beberapa anak perempuan yang gambarnya disebarkan menolak untuk pergi ke sekolah, mengalami serangan panik, diperas, dan diintimidasi di depan umum. 

"Kekhawatiran saya adalah gambar-gambar ini telah sampai ke situs-situs pornografi yang masih belum kami ketahui," kata Adib.

Jaksa penuntut sedang mempertimbangkan dakwaan terhadap beberapa anak, yang membuat gambar-gambar tersebut menggunakan aplikasi yang diunduh dari internet. 

Namun, mereka tidak dapat mengidentifikasi orang-orang yang mengembangkan aplikasi tersebut, yang menurut para jaksa berbasis di suatu tempat di Eropa timur.

Baca juga: URL di Kemasan Mengarah ke Situs Porno, Snack Anak-anak Inggris Ditarik dari Pasaran

Insiden di Spanyol ini menjadi berita global tahun lalu dan menjadikan Almendralejo, sebuah kota kecil dengan gereja-gereja tua di dekat perbatasan Portugis bergelojak.

Serangkaian gambar ini seperti peringatan dari masa depan, dimana perangkat AI memungkinkan siapa pun untuk menghasilkan gambar yang sangat realistis dengan beberapa kali klik.

Namun, meskipun deepfake dari bintang pop seperti Taylor Swift telah menarik banyak perhatian, gambar-gambar tersebut sepertinya jadi puncak gunung es dari gambar-gambar non-konsensual yang berkembang di internet dan tidak dapat dihentikan polisi.

Ribuan mil jauhnya di sekolah menengah atas Westfield di New Jersey, AS, sebuah kasus yang sangat mirip terjadi. Banyak anak perempuan yang menjadi sasaran gambar-gambar eksplisit yang dibuat para siswa di kelas mereka. 

Insiden di New Jersey ini telah memicu gugatan perdata dan membantu mendorong upaya bipartisan di Kongres AS untuk melarang pembuatan dan penyebaran gambar deepfake yang tidak sesuai dengan persetujuan.