Baca berita tanpa iklan. Gabung Kompas.com+

Skandal Aplikasi Pornografi "Deepfake" Guncang Kota Kecil Spanyol dan AS

Kompas.com - 01/03/2024, 16:00 WIB
Tito Hilmawan Reditya

Penulis

Sumber Guardian

MADRID, KOMPAS.com - Miriam al-Adib pertama kali mengetahui foto-foto tak senonoh putrinya ketika pulang dari perjalanan bisnis. 

"Ibu," kata putrinya. "Saya ingin menunjukkan sesuatu kepada ibu."

Gadis berusia 14 tahun itu membuka ponselnya dan menunjukkan gambar dirinya yang eksplisit. 

Baca juga: Beredar Ratusan Video Porno yang Dibuat lewat AI di Ekuador

"Sangat mengejutkan ketika Anda melihatnya," kata Adib, seorang dokter kandungan di kota Almendralejo, Spanyol selatan dan ibu dari empat anak perempuan. "Gambar itu benar-benar realistis ... Jika saya tidak mengenal tubuh putri saya, saya akan mengira gambar itu nyata."

Yang dimaksud dengan gambar itu adalah deepfake, salah satu dari lusinan gambar telanjang siswi sekolah di Almendralejo yang dibuat kecerdasan buatan (artificial intelligence/AI).

Deepfake tersebut telah beredar di kota itu selama berminggu-minggu di grup WhatsApp yang dibuat oleh anak-anak sekolah lainnya.

Laporan dari Guardian menyebut beberapa anak perempuan yang gambarnya disebarkan menolak untuk pergi ke sekolah, mengalami serangan panik, diperas, dan diintimidasi di depan umum. 

"Kekhawatiran saya adalah gambar-gambar ini telah sampai ke situs-situs pornografi yang masih belum kami ketahui," kata Adib.

Jaksa penuntut sedang mempertimbangkan dakwaan terhadap beberapa anak, yang membuat gambar-gambar tersebut menggunakan aplikasi yang diunduh dari internet. 

Namun, mereka tidak dapat mengidentifikasi orang-orang yang mengembangkan aplikasi tersebut, yang menurut para jaksa berbasis di suatu tempat di Eropa timur.

Baca juga: URL di Kemasan Mengarah ke Situs Porno, Snack Anak-anak Inggris Ditarik dari Pasaran

Insiden di Spanyol ini menjadi berita global tahun lalu dan menjadikan Almendralejo, sebuah kota kecil dengan gereja-gereja tua di dekat perbatasan Portugis bergelojak.

Serangkaian gambar ini seperti peringatan dari masa depan, dimana perangkat AI memungkinkan siapa pun untuk menghasilkan gambar yang sangat realistis dengan beberapa kali klik.

Namun, meskipun deepfake dari bintang pop seperti Taylor Swift telah menarik banyak perhatian, gambar-gambar tersebut sepertinya jadi puncak gunung es dari gambar-gambar non-konsensual yang berkembang di internet dan tidak dapat dihentikan polisi.

Ribuan mil jauhnya di sekolah menengah atas Westfield di New Jersey, AS, sebuah kasus yang sangat mirip terjadi. Banyak anak perempuan yang menjadi sasaran gambar-gambar eksplisit yang dibuat para siswa di kelas mereka. 

Insiden di New Jersey ini telah memicu gugatan perdata dan membantu mendorong upaya bipartisan di Kongres AS untuk melarang pembuatan dan penyebaran gambar deepfake yang tidak sesuai dengan persetujuan.

Halaman:
Sumber Guardian

Terkini Lainnya

Usai Luncurkan Serangan, Iran: Ini Konflik dengan Israel, AS Harus Menjauh

Usai Luncurkan Serangan, Iran: Ini Konflik dengan Israel, AS Harus Menjauh

Global
Serangan Iran ke Israel: Sirene Meraung, Hujan Ledakan, Anak 10 Tahun Terluka Parah

Serangan Iran ke Israel: Sirene Meraung, Hujan Ledakan, Anak 10 Tahun Terluka Parah

Global
Rangkuman Hari ke-779 Serangan Rusia ke Ukraina: Situasi Timur Ukraina Memburuk | Dasar Baru Perdamaian Rusia-Ukraina?

Rangkuman Hari ke-779 Serangan Rusia ke Ukraina: Situasi Timur Ukraina Memburuk | Dasar Baru Perdamaian Rusia-Ukraina?

Global
Lebih dari 100 Drone Iran Hujani Israel, Pertahanan Udara Israel Berpotensi Kesulitan Menghalau

Lebih dari 100 Drone Iran Hujani Israel, Pertahanan Udara Israel Berpotensi Kesulitan Menghalau

Global
Iran Luncurkan Drone dan Rudal Balistik ke Israel, Tandai Awal Serangan Militer

Iran Luncurkan Drone dan Rudal Balistik ke Israel, Tandai Awal Serangan Militer

Global
[UNIK GLOBAL] Pasien Pertama Cangkok Ginjal Babi | Pria Tertua di Dunia Berusia 111 Tahun

[UNIK GLOBAL] Pasien Pertama Cangkok Ginjal Babi | Pria Tertua di Dunia Berusia 111 Tahun

Global
Putri CEO Berusia 6 Tahun Beri Nilai Satu Bintang Ke Etihad Airways, Ini Respons Hangat Maskapai

Putri CEO Berusia 6 Tahun Beri Nilai Satu Bintang Ke Etihad Airways, Ini Respons Hangat Maskapai

Global
Penikaman Massal Mal Sydney: Belum Ada Indikasi Terorisme, Motif Masih Diselidiki

Penikaman Massal Mal Sydney: Belum Ada Indikasi Terorisme, Motif Masih Diselidiki

Global
UPDATE Penikaman Massal di Mal Sydney: Korban Tewas Jadi 7 Orang, WNI Diimbau Hindari Keramaian 

UPDATE Penikaman Massal di Mal Sydney: Korban Tewas Jadi 7 Orang, WNI Diimbau Hindari Keramaian 

Global
Google Blokir Tautan Outlet Berita California dari Hasil Pencarian

Google Blokir Tautan Outlet Berita California dari Hasil Pencarian

Global
Kronologi dan Cerita Saksi Mata Penikaman Massal di Mal Sydney yang Tewaskan 5 Orang

Kronologi dan Cerita Saksi Mata Penikaman Massal di Mal Sydney yang Tewaskan 5 Orang

Global
Penikaman Massal di Mal Sydney, 5 Orang Tewas, Pelaku Ditembak Mati

Penikaman Massal di Mal Sydney, 5 Orang Tewas, Pelaku Ditembak Mati

Global
Meksiko Beri Peringatan Pascatemuan 'Obat Zombie' di Kota Perbatasan

Meksiko Beri Peringatan Pascatemuan "Obat Zombie" di Kota Perbatasan

Global
Saat Disinformasi Penyakit Kolera di Mozambik Korbankan Hampir 100 Nyawa...

Saat Disinformasi Penyakit Kolera di Mozambik Korbankan Hampir 100 Nyawa...

Global
Sejumlah Maskapai Penerbangan Putuskan Hindari Wilayah Udara Iran, Apa Alasannya?

Sejumlah Maskapai Penerbangan Putuskan Hindari Wilayah Udara Iran, Apa Alasannya?

Global
Baca berita tanpa iklan. Gabung Kompas.com+
Baca berita tanpa iklan. Gabung Kompas.com+
Komentar
Baca berita tanpa iklan. Gabung Kompas.com+
Close Ads
Bagikan artikel ini melalui
Oke
Login untuk memaksimalkan pengalaman mengakses Kompas.com