Deepfake Taylor Swift Dorong Undang-undang Baru di Amerika dan Sisi Gelap AI

KOMPAS.com - Sebagian politikus Amerika telah menyerukan undang-undang baru agar bisa mempidanakan pembuatan deepfake atau pemalsuan intens setelah foto-foto palsu Taylor Swift muncul secara online pada minggu ini.

Deepfake dibuat menggunakan kecerdasan buatan (AI) untuk mengambil foto atau video seseorang dengan memanipulasi wajah atau tubuhnya.

Gambar-gambar palsu Taylor Swift telah muncul di situs-situs termasuk X/Twitter dan Telegram dan telah dilihat jutaan kali.

Baca juga: Terduga Penguntit Taylor Swift Ditangkap untuk Ketiga Kalinya dalam Lima Hari

Salah satu foto tersebut dilaporkan telah dilihat pengguna sebanyak 47 juta kali sebelum dihapus.

Platform media sosial X (dulu Twitter) mengatakan dalam sebuah pernyataan bahwa mereka “secara aktif menghapus” gambar-gambar tersebut dan mengambil “tindakan yang tepat” terhadap akun-akun yang terlibat dalam penyebarannya seperti dilansir BBC, Minggu (28/1/2024).

“Kami memantau situasi dengan cermat untuk memastikan bahwa pelanggaran lebih lanjut segera ditangani, dan konten tersebut dihapus,” tambah pernyataan pihak X.

Baca juga: Pentagon Bantah Fox News yang Menyebut Taylor Swift sebagai Bagian dari Operasi Rahasia CIA

Saat ini, banyak politisi Amerika yang menunjukkan perlunya undang-undang untuk mengejar kemajuan teknologi AI.

Saat ini tidak ada undang-undang federal yang melarang pembagian atau pembuatan deepfake, tetapi beberapa negara bagian telah membuat kemajuan dalam membuat undang-undang untuk mengatasi masalah ini.

Perwakilan anggota Kongres Amerika, Joe Morelle, menyebut penyebaran gambar tersebut “mengerikan” dan perlu tindakan segera untuk diambil.

Baca juga: Nama Taylor Swift Disebut-sebut Jadi Bagian dari Operasi Rahasia CIA

Joe Morelle mengatakan gambar dan video tersebut dapat menyebabkan kerugian emosional, finansial, dan reputasi yang tidak dapat diperbaiki.

“Dan sayangnya, perempuan terkena dampak yang tidak proporsional,” kata Joe Morelle.

Joe Morelle juga terlibat dalam usulan Undang-Undang Pencegahan Deepfakes pada Gambar Intim, yang akan melarang penyebaran pornografi deepfake tanpa izin.

Baca juga: Taylor Swift Lampaui Elvis Presley sebagai Artis Solo Pekan Terbanyak di Billboard

Sementara itu, hal serupa juga disampaikan anggota kongres atau parlemen Amerika dari Partai Demokrat, Yvette D Clarke.

“Apa yang terjadi pada Taylor Swift bukanlah hal baru,” tulis anggota Partai Demokrat Yvette D Clarke menulis di X.

Yvette D Clarke menambahkan bahwa perempuan telah menjadi sasaran teknologi “selama bertahun-tahun”, dan menambahkan bahwa dengan “kemajuan AI, membuat deepfake menjadi lebih mudah dan murah”.

Baca juga: Taylor Swift Lampaui Elvis Presley sebagai Artis Solo Pekan Terbanyak di Billboard

Pornografi merupakan mayoritas dari deepfake yang diunggah secara online, dengan 99 persen dari mereka yang menjadi sasaran konten tersebut adalah perempuan, menurut laporan State of Deepfakes yang diterbitkan tahun 2023.

Lalu, anggota Kongres dari Partai Republik Tom Kean Jr setuju, dengan mengatakan bahwa “jelas bahwa teknologi AI berkembang lebih cepat daripada batasan yang diperlukan”.

“Apakah korbannya adalah Taylor Swift atau anak muda mana pun di negara kita, kita perlu menetapkan tindakan pencegahan untuk melawan tren yang mengkhawatirkan ini,” imbuh Tom Kean Jr.

Baca juga: Sutradara Shazam Pastikan Cameo Gal Gadot Asli Bukan Teknologi Deepfake

Taylor Swift sendiri belum mengomentari gambar tersebut secara terbuka, tetapi Daily Mail melaporkan bahwa timnya sedang “mempertimbangkan tindakan hukum” terhadap situs yang menerbitkan gambar yang dihasilkan AI tersebut.

Selain itu, CEO Microsoft Satya Nadella telah mengecam deepfake yang menimpa Taylor Swift.

Satya Nadella mengatakan dalam sebuah wawancara dengan NBC News bahwa deepfakes yang marak setelah teknologi AI berkembang berubah menjadi hal mengerikan ketimbang mencerminkan kemajuan zaman.

Baca juga: Sinopsis The Takeover, Dijebak dengan Teknologi Deepfake

“Pertama-tama, ini benar-benar mengkhawatirkan dan mengerikan, dan oleh karena itu ya, kita harus bertindak, dan sejujurnya kita semua di platform teknologi, terlepas dari apa pendapat Anda tentang hal ini. masalah khususnya adalah — Saya pikir kita semua mendapat manfaat ketika dunia online menjadi dunia yang aman,” tutur Satya Nadella.

“Saya rasa tidak ada orang yang menginginkan dunia online yang sama sekali tidak aman bagi pembuat konten dan konsumen konten. Oleh karena itu, saya pikir kita perlu bergerak cepat dalam hal ini,” tambah Satya Nadella.

Deepfakes sendiri sudah menjadi fenomena global di berbagai negara, termasuk Indonesia.

Deepfakes sudah sering membuat geger dan banyak masyarakat percaya begitu saja lantaran literasi digital yang minim.