AI dan Benturannya dengan Privasi di Indonesia

Popularitasnya telah mengangkat AI, yang didorong oleh ChatGPT, ke tingkat pemanfaatan dan adopsi yang luas.

Lantas, bagaimanakah potensi euforia AI dalam konteks privasi di Indonesia?

Jauh sebelum adanya layanan teknologi informasi dan komunikasi (TIK) modern seperti AI, kita semua—termasuk penulis—telah merasakan gangguan terhadap privasi, meskipun baru pada layanan TIK dasar seperti SMS 'Mama Minta Pulsa'.

Di titik ini, penting untuk memahami bahwa privasi, dalam konteks ini, berkaitan dengan bagaimana data pribadi kita dikumpulkan, diproses, dan dibagikan, yang selanjutnya berdampak pada kita sebagai individu.

Sebelum membahas dari sisi regulasi dan merujuk pada pengalaman sebagai Kepala BLUD Jakarta Smart City (JSC) serta sebagai pengajar serta sejumlah studi literatur, ada beberapa contoh penerapan AI yang sangat terkait dengan privasi dan hak asasi manusia (HAM).

Pertama, AI dalam konteks catatan kriminal berpotensi memberikan dampak negatif pada HAM, terkait hak praduga tak bersalah hingga dinyatakan oleh majelis hakim.

Selain itu, hak audiensi publik (public hearing) juga berisiko dilanggar, terlepas dari hak privasi yang terkait dengan pengumpulan, penyimpanan, dan analisis data kriminal.

Dalam konteks penegakan hukum atau sistem peradilan, AI dapat digunakan untuk analisis data kriminal, yang kadang-kadang dapat memengaruhi keputusan hukum atau tindakan penegakan.

Namun, algoritma yang digunakan dalam AI biasanya kompleks dan kurang transparan.

Kedua, AI dalam sistem finansial berpotensi mengurangi hak seseorang untuk meminjam kredit karena kemampuan AI dalam menghitung risiko tunggakan.

Algoritma AI dapat memengaruhi atau bahkan membatasi hak individu dalam memperoleh layanan finansial berdasarkan faktor-faktor yang mungkin tidak sepenuhnya relevan atau adil, seperti lokasi geografis atau karakteristik pribadi lainnya.

Hal ini bisa dianggap sebagai bentuk diskriminasi dan berpengaruh pada menurunnya HAM seseorang dalam mengekspresikan pikiran, opini, dan informasi.

Ketiga, dalam bidang diagnosa kesehatan, AI berpotensi melanggar hak privasi, terutama terkait dengan pengumpulan, penyimpanan, dan analisis data medis pasien. Informasi yang seharusnya rahasia dan sensitif bisa terungkap.

Di samping itu, jika keputusan medis dibuat oleh algoritma AI tanpa adanya tinjauan atau pengawasan dari profesional medis, pasien berisiko mendapatkan diagnosa atau rekomendasi pengobatan yang salah.

Keempat, AI dalam bidang pendidikan, terutama dalam penilaian karya tulis, juga berpotensi melanggar HAM. Dengan AI yang mengumpulkan data besar, ada risiko pelanggaran hak cipta dan hak privasi.

Dalam skenario lain, algoritma AI digunakan untuk membaca dan menganalisis gaya penulisan, pilihan kata, bahkan opini politik atau keyakinan pribadi dari mahasiswa.

Jika dianalisis tanpa seijin atau pengetahuan subjek data pribadi, maka dapat melanggar privasi seseorang.

Kelima, AI dalam moderasi konten daring bisa merusak hak privasi dan hak berpendapat, seiring kemampuan AI dalam memilih dan memilah konten yang melanggar aturan komunitas.

Namun ini bisa berdampak pada hak berpendapat, karena bisa menyebabkan sensor yang berlebihan atau diskriminasi terhadap kelompok tertentu.

Terakhir, AI dalam rekrutmen sumber daya manusia (SDM) bisa membatasi kebebasan seseorang, terutama jika perilakunya dianggap tidak pantas oleh perusahaan yang merekrut.

Misalnya, perusahaan menggunakan algoritma AI untuk memindai media sosial kandidat untuk menilai "kepatutan" kandidat berdasarkan perilaku dan ungkapan di media sosial. Pendekatan ini dapat membatasi kebebasan ekspresi seseorang yang berdampak kepada HAM.

Bagaimana baiknya?

Mengacu pada UU Pelindungan Data Pribadi No. 27/2022, ada beberapa pendekatan yang bisa diambil. Pemrosesan data pribadi umumnya dilarang, khususnya jika dilakukan sepihak tanpa dasar pemrosesan yang jelas.

Harus ada dasar hukum dan transparansi, serta subjek data harus mengetahui bagaimana data pribadinya akan diproses.

Definisi Data Pribadi menurut Pasal 1 adalah data yang teridentifikasi atau bisa diidentifikasi, sendiri atau dikombinasikan, secara langsung atau tidak.

Dari definisi ini, AI menimbulkan dua isu utama: a) 're-personalisasi' data anonim, yaitu identifikasi ulang individu dari data tersebut; b) inferensi informasi pribadi lebih lanjut dari data yang sudah ada.

Prinsip Pembatasan Pengumpulan (Pasal 16(2), 27, dan 28) menekankan bahwa data pribadi yang diperoleh harus dikumpulkan secara sah, transparan, dan sesuai tujuan, serta harus diketahui dan disetujui oleh yang bersangkutan.

Prinsip Akurasi (Pasal 29) mengharuskan data pribadi untuk selalu akurat, lengkap, dan konsisten, serta harus selalu diperbarui. Prinsip ini juga berlaku ketika data pribadi digunakan dalam sistem AI.

Tak kalah penting, tindakan Pengambilan Keputusan secara otomatis (Pasal 10) menunjukkan bahwa meskipun UU ini tidak secara eksplisit merujuk pada AI, ia membahas pemrosesan yang dilakukan secara otomatis, termasuk pemrofilan menggunakan AI, yang bisa berdampak pada individu.

Kesimpulan

Euforia terhadap AI seharusnya tidak mengesampingkan pentingnya HAM dan ketentuan yang ada dalam UU Pelindungan Data Pribadi.

Kita perlu memahami lebih dalam tentang bagaimana algoritma AI bekerja dan bagaimana ia bisa memengaruhi privasi dan hak-hak subjek data pribadi.

Di samping itu, penyedia AI harus lebih transparan tentang algoritma mereka dan harus bisa diadili jika algoritma tersebut melanggar HAM atau privasi seseorang.

AI meskipun memiliki banyak keuntungan, pencegahan terhadap potensi dampak negatifnya harus dimitigasi bersama-sama dengan tidak hanya mematuhi regulasi yang telah mengaturnya dengan baik, tetapi kolaborasi antar-sektor—mulai dari pemerintah, industri, komunitas akademik, hingga masyarakat umum—adalah kunci untuk memitigasi risiko ini.