AI dan Benturannya dengan Privasi di Indonesia

Keempat, AI dalam bidang pendidikan, terutama dalam penilaian karya tulis, juga berpotensi melanggar HAM. Dengan AI yang mengumpulkan data besar, ada risiko pelanggaran hak cipta dan hak privasi.

Dalam skenario lain, algoritma AI digunakan untuk membaca dan menganalisis gaya penulisan, pilihan kata, bahkan opini politik atau keyakinan pribadi dari mahasiswa.

Jika dianalisis tanpa seijin atau pengetahuan subjek data pribadi, maka dapat melanggar privasi seseorang.

Kelima, AI dalam moderasi konten daring bisa merusak hak privasi dan hak berpendapat, seiring kemampuan AI dalam memilih dan memilah konten yang melanggar aturan komunitas.

Namun ini bisa berdampak pada hak berpendapat, karena bisa menyebabkan sensor yang berlebihan atau diskriminasi terhadap kelompok tertentu.

Terakhir, AI dalam rekrutmen sumber daya manusia (SDM) bisa membatasi kebebasan seseorang, terutama jika perilakunya dianggap tidak pantas oleh perusahaan yang merekrut.

Misalnya, perusahaan menggunakan algoritma AI untuk memindai media sosial kandidat untuk menilai "kepatutan" kandidat berdasarkan perilaku dan ungkapan di media sosial. Pendekatan ini dapat membatasi kebebasan ekspresi seseorang yang berdampak kepada HAM.

Bagaimana baiknya?

Mengacu pada UU Pelindungan Data Pribadi No. 27/2022, ada beberapa pendekatan yang bisa diambil. Pemrosesan data pribadi umumnya dilarang, khususnya jika dilakukan sepihak tanpa dasar pemrosesan yang jelas.

Harus ada dasar hukum dan transparansi, serta subjek data harus mengetahui bagaimana data pribadinya akan diproses.

Definisi Data Pribadi menurut Pasal 1 adalah data yang teridentifikasi atau bisa diidentifikasi, sendiri atau dikombinasikan, secara langsung atau tidak.

Dari definisi ini, AI menimbulkan dua isu utama: a) 're-personalisasi' data anonim, yaitu identifikasi ulang individu dari data tersebut; b) inferensi informasi pribadi lebih lanjut dari data yang sudah ada.

Prinsip Pembatasan Pengumpulan (Pasal 16(2), 27, dan 28) menekankan bahwa data pribadi yang diperoleh harus dikumpulkan secara sah, transparan, dan sesuai tujuan, serta harus diketahui dan disetujui oleh yang bersangkutan.

Prinsip Akurasi (Pasal 29) mengharuskan data pribadi untuk selalu akurat, lengkap, dan konsisten, serta harus selalu diperbarui. Prinsip ini juga berlaku ketika data pribadi digunakan dalam sistem AI.

Tak kalah penting, tindakan Pengambilan Keputusan secara otomatis (Pasal 10) menunjukkan bahwa meskipun UU ini tidak secara eksplisit merujuk pada AI, ia membahas pemrosesan yang dilakukan secara otomatis, termasuk pemrofilan menggunakan AI, yang bisa berdampak pada individu.

Kesimpulan

Euforia terhadap AI seharusnya tidak mengesampingkan pentingnya HAM dan ketentuan yang ada dalam UU Pelindungan Data Pribadi.

Kita perlu memahami lebih dalam tentang bagaimana algoritma AI bekerja dan bagaimana ia bisa memengaruhi privasi dan hak-hak subjek data pribadi.

Di samping itu, penyedia AI harus lebih transparan tentang algoritma mereka dan harus bisa diadili jika algoritma tersebut melanggar HAM atau privasi seseorang.

AI meskipun memiliki banyak keuntungan, pencegahan terhadap potensi dampak negatifnya harus dimitigasi bersama-sama dengan tidak hanya mematuhi regulasi yang telah mengaturnya dengan baik, tetapi kolaborasi antar-sektor—mulai dari pemerintah, industri, komunitas akademik, hingga masyarakat umum—adalah kunci untuk memitigasi risiko ini.