Pornografi Deepfake: Sisi Gelap AI yang Kian Mengkhawatirkan

NEW YORK CITY, KOMPAS.com - Pencitraan kecerdasan buatan dapat digunakan untuk membuat karya seni, mencoba pakaian di ruang pas virtual, atau membantu merancang kampanye iklan.

Tetapi para ahli khawatir sisi gelap dari alat yang mudah diakses dapat memperburuk sesuatu yang merugikan perempuan: pornografi deepfake non-konsensual.

Deepfake adalah video dan gambar yang telah dibuat atau diubah secara digital dengan kecerdasan buatan atau pembelajaran mesin.

Baca juga: Dapat Telepon Nomor Luar Negeri, HP Pria Ini Diretas, Fotonya Dipakai dalam Video Porno Deepfake

Konten porno yang dibuat menggunakan teknologi ini pertama kali menyebar di internet beberapa tahun lalu.

Saat itu, seorang pengguna Reddit membagikan klip yang menempatkan wajah selebritas wanita di pundak aktor porno.

Sejak itu, pembuat deepfake telah menyebarkan video dan gambar serupa yang menargetkan influencer online, jurnalis, dan lainnya dengan profil publik.

Seperti dilansir dari Associated Press, ribuan video ada di banyak situs web. Beberapa telah menawarkan pengguna kesempatan untuk membuat gambar mereka sendiri.

Pada dasarnya, ini memungkinkan siapa pun untuk mengubah siapa pun yang mereka inginkan menjadi fantasi seksual tanpa persetujuan mereka, atau menggunakan teknologi untuk menyakiti mantan pasangan.

Masalahnya, kata para ahli, hal ini tumbuh karena semakin mudah membuat deepfake yang canggih dan menarik secara visual.

Mereka juga mengatakan hal itu bisa menjadi lebih buruk dengan pengembangan alat AI generatif yang dilatih pada miliaran gambar dari internet dan mengeluarkan konten baru menggunakan data yang ada.

Baca juga: Duduk Perkara Kasus Trump dengan Bintang Porno Stormy Daniels

“Kenyataannya adalah bahwa teknologi akan terus berkembang biak, akan terus berkembang dan akan terus menjadi semudah menekan tombol,” kata Adam Dodge, pendiri EndTAB, sebuah grup yang memberikan pelatihan tentang penyalahgunaan yang dimungkinkan oleh teknologi.

“Dan selama itu terjadi, orang pasti akan terus menyalahgunakan teknologi itu untuk menyakiti orang lain, terutama melalui kekerasan seksual online, pornografi deepfake, dan gambar telanjang palsu,” ujarnya.

Noelle Martin, dari Perth, Australia, pernah mengalami kenyataan itu. Wanita berusia 28 tahun itu menemukan deepfake porno dirinya 10 tahun yang lalu ketika karena penasaran suatu hari dia menggunakan Google untuk mencari gambar dirinya.

Baca juga: Jaksa: Trump Bayar Uang Tutup Mulut ke Bintang Porno, Model Majalah Playboy, dan Doorman

Sampai hari ini, Martin mengatakan dia tidak tahu siapa yang membuat gambar palsu, atau video dirinya melakukan hubungan seksual yang nantinya akan dia temukan.

Dia mencurigai seseorang mungkin mengambil gambar yang diposting di halaman media sosialnya atau di tempat lain dan mengubahnya menjadi porno.

Beberapa model AI mengatakan mereka sudah membatasi akses ke gambar eksplisit.

OpenAI mengatakan itu menghapus konten eksplisit dari data yang digunakan untuk melatih alat penghasil gambar DALL-E, yang membatasi kemampuan pengguna untuk membuat jenis gambar tersebut.

Baca juga: [POPULER GLOBAL] Trump Didakwa Menyuap Bintang Porno | Batu Mengandung Emas Bernilai Rp 3,6 Miliar

Perusahaan juga memfilter permintaan dan mengatakan memblokir pengguna untuk membuat gambar AI dari selebritas dan politisi terkemuka.

Midjourney, model lain, memblokir penggunaan kata kunci tertentu dan mendorong pengguna untuk menandai gambar bermasalah ke moderator.