AI dan Benturannya dengan Privasi di Indonesia

SETELAH hadirnya ChatGPT, Indonesia semakin familiar dengan kecerdasan artifisial (AI). Bisa dikatakan, AI di negeri ini sudah bukan lagi istilah akademis atau layanan elit.

Popularitasnya telah mengangkat AI, yang didorong oleh ChatGPT, ke tingkat pemanfaatan dan adopsi yang luas.

Lantas, bagaimanakah potensi euforia AI dalam konteks privasi di Indonesia?

Jauh sebelum adanya layanan teknologi informasi dan komunikasi (TIK) modern seperti AI, kita semua—termasuk penulis—telah merasakan gangguan terhadap privasi, meskipun baru pada layanan TIK dasar seperti SMS 'Mama Minta Pulsa'.

Di titik ini, penting untuk memahami bahwa privasi, dalam konteks ini, berkaitan dengan bagaimana data pribadi kita dikumpulkan, diproses, dan dibagikan, yang selanjutnya berdampak pada kita sebagai individu.

Sebelum membahas dari sisi regulasi dan merujuk pada pengalaman sebagai Kepala BLUD Jakarta Smart City (JSC) serta sebagai pengajar serta sejumlah studi literatur, ada beberapa contoh penerapan AI yang sangat terkait dengan privasi dan hak asasi manusia (HAM).

Pertama, AI dalam konteks catatan kriminal berpotensi memberikan dampak negatif pada HAM, terkait hak praduga tak bersalah hingga dinyatakan oleh majelis hakim.

Selain itu, hak audiensi publik (public hearing) juga berisiko dilanggar, terlepas dari hak privasi yang terkait dengan pengumpulan, penyimpanan, dan analisis data kriminal.

Dalam konteks penegakan hukum atau sistem peradilan, AI dapat digunakan untuk analisis data kriminal, yang kadang-kadang dapat memengaruhi keputusan hukum atau tindakan penegakan.

Namun, algoritma yang digunakan dalam AI biasanya kompleks dan kurang transparan.

Kedua, AI dalam sistem finansial berpotensi mengurangi hak seseorang untuk meminjam kredit karena kemampuan AI dalam menghitung risiko tunggakan.

Algoritma AI dapat memengaruhi atau bahkan membatasi hak individu dalam memperoleh layanan finansial berdasarkan faktor-faktor yang mungkin tidak sepenuhnya relevan atau adil, seperti lokasi geografis atau karakteristik pribadi lainnya.

Hal ini bisa dianggap sebagai bentuk diskriminasi dan berpengaruh pada menurunnya HAM seseorang dalam mengekspresikan pikiran, opini, dan informasi.

Ketiga, dalam bidang diagnosa kesehatan, AI berpotensi melanggar hak privasi, terutama terkait dengan pengumpulan, penyimpanan, dan analisis data medis pasien. Informasi yang seharusnya rahasia dan sensitif bisa terungkap.

Di samping itu, jika keputusan medis dibuat oleh algoritma AI tanpa adanya tinjauan atau pengawasan dari profesional medis, pasien berisiko mendapatkan diagnosa atau rekomendasi pengobatan yang salah.