Ribuan Foto Wanita Bugil Hasil Editan Beredar di Internet, Pakaiannya Dihapus dengan AI

Dia juga mengatakan timnya melihat foto apa saja yang dibagikan, dan "ketika kami melihat anak di bawah umur, kami memblokir pengguna tersebut untuk selamanya."

Tetapi keputusan untuk membagikan foto itu dengan orang lain tergantung pada siapa pun yang menggunakan bot, katanya.

Saat melakukan pembelaan dia mengatakan, "Ada perang, penyakit, banyak hal buruk yang berbahaya di dunia." Dia juga mengklaim akan segera menghapus semua gambar tersebut.

Telegram belum menanggapi permintaan komentar.

"Konten pedofil"

Sensity melaporkan bahwa antara Juli 2019 dan 2020, sekitar 104.852 perempuan telah menjadi sasaran dan gambar telanjang palsu mereka dibagikan secara publik.

Investigasi yang dilakukan menemukan bahwa beberapa gambar perempuan tampak di bawah umur, "menunjukkan bahwa beberapa pengguna menggunakan bot untuk membuat dan berbagi konten pedofil."

Baca juga: Seorang Laki-laki yang Dituduh Pedofil Diperkosa dan Dibunuh

Sensity mengatakan bot tersebut beriklan secara signifikan di situs media sosial Rusia, VK, dan survei di platform tersebut menunjukkan bahwa sebagian besar pengguna berasal dari Rusia dan negara-negara bekas Uni Soviet.

Namun VK berkata, "Mereka tidak menolerir konten atau tautan semacam itu di platform mereka dan akan memblokir komunitas yang mendistribusikannya."

Telegram secara resmi dilarang di Rusia hingga awal tahun ini.

"Banyak dari situs web atau aplikasi ini tidak beroperasi di bawah tanah karena tidak dilarang secara tegas," kata Giorgio Patrini dari Sensity.

"Sampai (pelarangan) itu terjadi, saya khawatir keadaannya akan bertambah buruk."

Penulis laporan tersebut mengatakan bahwa mereka telah membagikan semua temuan dengan Telegram, VK, dan lembaga penegak hukum terkait, tetapi belum mendapatkan tanggapan.

Baca juga: Istri Telanjang Tiba-tiba Lewat Saat Suaminya Video Call dengan Eks Capres

Nina Schick penulis buku Deep Fakes and the Infocalypse mengatakan, pengguna deepfake ada di seluruh dunia, dan badan-badan hukum masih "mengejar ketinggalan" dengan teknologi.

"Hanya masalah waktu saja sampai konten itu menjadi lebih canggih. Jumlah video porno deepfake sepertinya berlipat ganda setiap enam bulan," katanya.

"Sistem hukum belum bisa secara tepat menangani masalah ini. Masyarakat berubah lebih cepat dari yang dapat kita bayangkan karena kemajuan teknologi yang eksponensial ini, dan kita sebagai masyarakat belum memutuskan bagaimana cara mengaturnya.