Deepfake Taylor Swift Dorong Undang-undang Baru di Amerika dan Sisi Gelap AI

Deepfake dibuat menggunakan kecerdasan buatan (AI) untuk mengambil foto atau video seseorang dengan memanipulasi wajah atau tubuhnya.

Gambar-gambar palsu Taylor Swift telah muncul di situs-situs termasuk X/Twitter dan Telegram dan telah dilihat jutaan kali.

Salah satu foto tersebut dilaporkan telah dilihat pengguna sebanyak 47 juta kali sebelum dihapus.

Platform media sosial X (dulu Twitter) mengatakan dalam sebuah pernyataan bahwa mereka “secara aktif menghapus” gambar-gambar tersebut dan mengambil “tindakan yang tepat” terhadap akun-akun yang terlibat dalam penyebarannya seperti dilansir BBC, Minggu (28/1/2024).

“Kami memantau situasi dengan cermat untuk memastikan bahwa pelanggaran lebih lanjut segera ditangani, dan konten tersebut dihapus,” tambah pernyataan pihak X.

Saat ini, banyak politisi Amerika yang menunjukkan perlunya undang-undang untuk mengejar kemajuan teknologi AI.

Saat ini tidak ada undang-undang federal yang melarang pembagian atau pembuatan deepfake, tetapi beberapa negara bagian telah membuat kemajuan dalam membuat undang-undang untuk mengatasi masalah ini.

Perwakilan anggota Kongres Amerika, Joe Morelle, menyebut penyebaran gambar tersebut “mengerikan” dan perlu tindakan segera untuk diambil.

Joe Morelle mengatakan gambar dan video tersebut dapat menyebabkan kerugian emosional, finansial, dan reputasi yang tidak dapat diperbaiki.

“Dan sayangnya, perempuan terkena dampak yang tidak proporsional,” kata Joe Morelle.

Joe Morelle juga terlibat dalam usulan Undang-Undang Pencegahan Deepfakes pada Gambar Intim, yang akan melarang penyebaran pornografi deepfake tanpa izin.

Sementara itu, hal serupa juga disampaikan anggota kongres atau parlemen Amerika dari Partai Demokrat, Yvette D Clarke.

“Apa yang terjadi pada Taylor Swift bukanlah hal baru,” tulis anggota Partai Demokrat Yvette D Clarke menulis di X.

Yvette D Clarke menambahkan bahwa perempuan telah menjadi sasaran teknologi “selama bertahun-tahun”, dan menambahkan bahwa dengan “kemajuan AI, membuat deepfake menjadi lebih mudah dan murah”.

Pornografi merupakan mayoritas dari deepfake yang diunggah secara online, dengan 99 persen dari mereka yang menjadi sasaran konten tersebut adalah perempuan, menurut laporan State of Deepfakes yang diterbitkan tahun 2023.

Lalu, anggota Kongres dari Partai Republik Tom Kean Jr setuju, dengan mengatakan bahwa “jelas bahwa teknologi AI berkembang lebih cepat daripada batasan yang diperlukan”.

“Apakah korbannya adalah Taylor Swift atau anak muda mana pun di negara kita, kita perlu menetapkan tindakan pencegahan untuk melawan tren yang mengkhawatirkan ini,” imbuh Tom Kean Jr.

Taylor Swift sendiri belum mengomentari gambar tersebut secara terbuka, tetapi Daily Mail melaporkan bahwa timnya sedang “mempertimbangkan tindakan hukum” terhadap situs yang menerbitkan gambar yang dihasilkan AI tersebut.

Selain itu, CEO Microsoft Satya Nadella telah mengecam deepfake yang menimpa Taylor Swift.

Satya Nadella mengatakan dalam sebuah wawancara dengan NBC News bahwa deepfakes yang marak setelah teknologi AI berkembang berubah menjadi hal mengerikan ketimbang mencerminkan kemajuan zaman.

“Pertama-tama, ini benar-benar mengkhawatirkan dan mengerikan, dan oleh karena itu ya, kita harus bertindak, dan sejujurnya kita semua di platform teknologi, terlepas dari apa pendapat Anda tentang hal ini. masalah khususnya adalah — Saya pikir kita semua mendapat manfaat ketika dunia online menjadi dunia yang aman,” tutur Satya Nadella.

“Saya rasa tidak ada orang yang menginginkan dunia online yang sama sekali tidak aman bagi pembuat konten dan konsumen konten. Oleh karena itu, saya pikir kita perlu bergerak cepat dalam hal ini,” tambah Satya Nadella.

Deepfakes sendiri sudah menjadi fenomena global di berbagai negara, termasuk Indonesia.

Deepfakes sudah sering membuat geger dan banyak masyarakat percaya begitu saja lantaran literasi digital yang minim.