Cegah Pelecehan Seksual Anak, Australia Ambil Langkah Tegas pada Mesin Pencari AI

SYDNEY, KOMPAS.com - Australia akan mewajibkan mesin pencari seperti Google dan Bing mengambil langkah-langkah mencegah penyebaran materi pelecehan seksual anak yang dibuat oleh kecerdasan buatan (artificial intelligence).

Sebuah kode baru yang disusun oleh raksasa industri atas permintaan pemerintah akan mengharuskan mesin pencari untuk memastikan bahwa konten semacam itu tidak dikembalikan dalam hasil pencarian, kata Komisioner e-Safety Julie Inman Grant, dilansir dari Reuters.

Ini juga mengharuskan fungsi AI yang dibangun ke dalam mesin pencari tidak dapat menghasilkan versi sintetis dari materi yang sama, katanya.

Baca juga: Putin Disebut Pakai Suara AI dalam Pidato BRICS

Versi sintetis dari materi tersebut juga dikenal sebagai deepfakes.

"Penggunaan AI generatif telah berkembang begitu cepat sehingga saya pikir hal ini membuat seluruh dunia lengah pada tingkat tertentu," kata Inman Grant.

Kode ini menyajikan contoh bagaimana lanskap peraturan dan hukum seputar platform internet sedang dibentuk ulang oleh ledakan produk yang secara otomatis menghasilkan konten yang mirip dengan aslinya.

Inman Grant mengatakan bahwa kode sebelumnya yang disusun oleh Google, yang dimiliki oleh Alphabet dan Bing, yang dimiliki oleh Microsoft, tidak mencakup konten yang dihasilkan oleh AI, jadi dia meminta mereka untuk kembali ke papan gambar.

"Ketika para pemain terbesar di industri ini mengumumkan bahwa mereka akan mengintegrasikan AI generatif ke dalam fungsi pencarian mereka, kami memiliki draf kode yang jelas-jelas sudah tidak sesuai dengan tujuan. Kami meminta industri untuk mencoba lagi," tambah Inman Grant.

Google dan Microsoft tidak dapat segera dihubungi untuk dimintai komentar.

Awal tahun ini, regulator mendaftarkan kode keamanan untuk beberapa layanan internet lainnya seperti media sosial, aplikasi ponsel pintar, dan penyedia peralatan.

Baca juga: Sutradara Oppenheimer Christopher Nolan: Regulasi Nuklir Sulit, Seperti AI

Kode-kode tersebut mulai berlaku pada akhir 2023.

Regulator masih berupaya mengembangkan kode keamanan terkait penyimpanan internet dan layanan pesan pribadi, yang telah menghadapi penolakan dari para pendukung privasi secara global.