UU tentang Artificial Intelligence

KETIKA dunia khawatir terhadap sisi negatif Artificial Intelligence (AI) dan mencari model pengaturan yang tepat, Uni Eropa bergerak cepat memproses Undang-Undang tentang AI.

Legislasi Uni Eropa ini akan menjadi UU pertama di dunia yang mengatur AI secara proporsional dan langsung melibatkan multilateral.

UU ini di satu sisi akan melindungi hak-hak sipil dan kemanusiaan. Sementara di sisi lainnya, tetap mendorong inovasi dan ekonomi sejalan dengan perkembangan transformasi digital paling mutakhir.

Realitas ini menyusul selesainya pemungutan suara pada Kamis, 11 Mei 2023, yang menyetujui rancangan undang-undang itu. Naskah final telah disepakati oleh Komite legislasi Uni Eropa (EU Lawmakers Commitee).

Tahap berikutnya adalah pemungutan suara paripurna Parlemen Eropa pada Juni mendatang, setelah pembicaraan "trilog" yang melibatkan perwakilan Parlemen Eropa, Dewan Uni Eropa, dan Komisi Eropa.

Prinsip-prinsip dan materi muatannya dapat dijadikan komparasi sekaligus pedoman (guidline) untuk UU serupa di berbagai negara termasuk Indonesia.

Artikel ini adalah bahan ajar untuk kelas Cyberlaw di Fakultas Hukum Unpad yang saya tulis di atas pesawat dalam penerbangan Tokyo-Jakarta. Untuk manfaat lebih luas, saya bagikan juga untuk pembaca Kompas.com.

Sebagaimana dilansir Reuteurs (11/5/2023), Undang-undang yang sangat ditunggu-tunggu ini akan mengatur AI dengan cakupan penggunaan pengenal wajah, pengawasan biometrik, dan aplikasi AI lainnya.

Undang-undang ini nanti akan memiliki masa transisi dua tahun setelah disahkan. Hal ini untuk memungkinkan pihak yang terkena dampak mematuhi peraturan.

Ruang Lingkup UU

Anggota Parlemen Eropa setuju untuk melarang penggunaan pengenalan wajah di ruang publik, alat polisionil prediktif, dan memberlakukan tindakan transparansi pada aplikasi AI generatif seperti ChatGPT OpenAI.

Hal ini merupakan tonggak sejarah dalam mengatur AI di mana hak-hak dasar harus menjadi landasan, dan AI harus melayani individu, masyarakat, dan lingkungan, bukan sebaliknya.

Uni Eropa memang selalu paling depan dalam pembuatan legislasi terkait transformasi digital, setelah sebelumnya juga sukses membuat General Data Protection Regulation (GDPR) untuk pelindungan data dan menjadi rujukan dan pedoman (guidline) UU Pelindungan data pribadi di berbagai negara termasuk Indonesia.

Pimpinan Uni Eropa sangat menyadari posisi Eropa di kancah digital. Data Pengguna internet di Eropa yang dirilis Statista, sebagaimana dipublikasikan Statista, J.Degenhard, 21 Maret 2023, diperkirakan akan terus meningkat antara tahun 2023 dan 2028.

Prediksi setelah peningkatan tahun kelima jumlah pengguna diperkirakan mencapai 761,42 juta. Hal ini identik dengan pasar terbesar dunia digital yang memiliki potensi paling tinggi.

Sebelumnya Reuters (22/3/2023), mewartakan bahwa Undang-undang tentang AI akan menjadi bagian penting legislasi Uni Eropa.

Hal yang akan diatur dalam UU ini meliputi, pertama, mengatur klasifikasi dan pembedaan platform atau instrumen AI sesuai dengan tingkat risiko yang dirasakan, dari rendah hingga yang tidak dapat diterima.

Berdasarkan hal ini, Pemerintah dan perusahaan yang menggunakan alat ini akan memiliki kewajiban berbeda, bergantung pada tingkat risikonya.

Kedua, undang-undang ini memiliki lingkup luas dan akan mengatur siapa saja subjek yang menyediakan produk atau layanan yang menggunakan AI.

Undang-undang ini akan mencakup pengaturan terkait sistem yang dapat menghasilkan luaran seperti konten, prediksi, rekomendasi, atau keputusan yang memengaruhi lingkungan.

Ketiga, selain penggunaan AI oleh perusahaan, juga mencakup AI yang digunakan di sektor publik dan penegak hukum. Hal ini akan terkait dengan undang-undang lain seperti GDPR.

Materi muatan juga mencakup penggunaan sistem AI yang berinteraksi dengan manusia, digunakan untuk tujuan pengawasan, atau dapat digunakan untuk menghasilkan konten "deepfake" dengan kewajiban transparansi secara ketat.

Rancangan UU Uni Eropa ini juga menjadi perhatian Forum Ekonomi dunia. Seperti dirilis dalam laman official World Economy Forum, 28 Maret 2023, dengan judul, "The European Union’s Artificial Intelligence Act, explained" bahwa Undang-Undang Kecerdasan Buatan Uni Eropa, akan mengklasifikasikan sistem AI berdasarkan risiko dan mengamanatkan berbagai persyaratan pengembangan dan penggunaannya.

AI risiko tinggi

Apa yang termasuk AI risiko tinggi? Platform AI dapat dianggap berisiko tinggi jika digunakan pada infrastruktur penting, seperti penegakan hukum, atau pendidikan.

Platform ini berada satu tingkat di bawah kriteria "tidak dapat diterima (unacceptable)" sehingga tidak langsung dilarang.

Platform AI berisiko tinggi dapat diwajibkan untuk menyelesaikan penilaian risiko yang ketat, mencatat aktivitas mereka, dan menyediakan data bagi pihak berwenang untuk diteliti.

Akan banyak AI kategori berisiko tinggi dikontrol secara ketat, seperti bidang keamanan produk. Hal yang juga diatur adalah terkait penegakan hukum, imigrasi, infrastruktur, dan administrasi peradilan.

Sedangkan untuk sistem AI dengan risiko kecil dan minimal, seperti filter spam, atau video game, akan tetap diizinkan untuk digunakan. Tentu dengan persyaratan minimal selain kewajiban transparansi.

Sedangkan sistem yang dianggap berisiko yang "tidak dapat diterima (unacceptable)", seperti sistem identifikasi biometrik realtime di ruang publik, akan dilarang dengan sedikit pengecualian.

Hal yang juga diatur adalah terkait General Purpose AI System (GPAIS). Pembuat undang-undang AI Uni Eropa memperhitungkan platform AI dengan lebih dari satu fungsi dan aplikasi, seperti model AI generatif ChatGPT, Bard dll.

UU ini juga bertujuan menjawab kebutuhan implementasi di berbagai sektor mulai dari kesehatan, pendidikan hingga keuangan dan energi.

Rancangan Undang-Undang Uni Eropa ini menerapkan sanksi keras terhadap pelanggarnya dengan denda hingga 30 juta euro atau 6 persen keuntungan global, atau mana yang lebih tinggi. Denda itu bisa menjadi sangat spektakuler jumlahnya.

Misalnya, untuk Big Tech yang mengoperasikan platform raksasa yang melanggar bisa didenda sampai puluhan miliar dollar AS.

Indonesia

Indonesia saat ini adalah salah satu negara dengan potensi ekonomi digital yang menjanjikan di Asia. Jumlah populasi, jumlah pengguna internet, pemerataan infrastruktur telekomunikasi, dan karakter masyarakat yang mudah beradaptasi secara digital, merupakan unsur dan nilai keunggulan, selain stabilitas ekonomi dan pertumbuhan ekonomi digital.

Berdasarkan Studi Google Temasek, Bain & Company (2022) menunjukkan ekonomi digital Indonesia pada 2022 mencapai 77 miliar dollar AS atau tumbuh 22 persen dari 2021.

Indonesia berhasil menjadi pemain utama dalam ekonomi digital ASEAN, karena sekitar 40 persen nilai total transaksi ekonomi digital ASEAN berasal dari Indonesia.

Investasi pada sektor ekonomi digital Indonesia juga tumbuh positif, ditunjukkan oleh deal value investasi pada triwulan pertama 2022 sebesar 3 miliar dollar AS, yang merupakan nilai tertinggi kedua setelah Singapura (Sumber ekon.go.id 28/2/2023)

Unsur penting penggunaan AI sebagai kecerdasan buatan adalah kepercayaan, sebagai sebuah keniscayaan.

Oleh karena itu Indonesia perlu memiliki regulasi tentang AI yang memiliki prinsip dan materi muatan sebagai berikut:

Pertama, Undang-undang yang dibuat, perlu berfokus terutama pada penguatan aturan seputar kualitas data, transparansi, pengawasan manusia, dan akuntabilitas.

Kedua, Undang-Undang AI Indonesia harus bertujuan kedepan untuk memperkuat posisi Indonesia sebagai pusat keunggulan global dalam bidang Transformasi Digital dan ekonomi digital.

Oleh karena itu UU harus bisa memastikan bahwa pengembangan dan penggunaan AI di Indonesia akan menghormati nilai dan aturan hukum Indonesia, serta tetap menjaga ekosistem masyarakat digital Indonesia untuk menjaga kedaulatan dan keutuhan wilayah NKRI.

Ketiga, UU harus mendorong pemanfaatan potensi AI sebagai alat yang membantu manusia untuk pertumbuhan industri, ekonomi digital, pendidikan, kesehatan dll, yang tetap berpusat pada eksistensi, peran sentral dan peradaban manusia (Cyber phisicaly - Human Centered).

Keempat, dengan komparasi ke Uni Eropa, UU perlu mengklasifikasi dan menentukan tingkat risiko yang dapat ditimbulkan oleh teknologi AI terhadap kesehatan dan keselamatan atau hak-hak dasar seseorang yang meliputi empat tingkatan risiko: tidak dapat diterima, tinggi, terbatas, dan minimal.

UU juga bisa mengatur standardisasi untuk platform AI level risiko tertentu. Standardisasi dan uji laik operasi bisa dilakukan berdasar kerjasama dengan berbagai negara penghasil AI.

Mengingat sifatnya yang ekstra teritorial, maka proses standardisasi atau penilaian risiko yang ketat terhadap platform AI berisiko tinggi yang telah dilakukan di negara asal platform atau negara lainnya yang memiliki regulasi setara atau lebih tinggi, maka sepanjang tidak bertentangan dengan UU kesusilaan dan ketertiban umum Indonesia dapat dikategorikan sebagai telah dipenuhinya persyaratan dimaksud di Indonesia.

Kelima, UU tentang AI juga perlu memastikan pelindungan terhadap anak-anak dalam penggunaannya. Selaras dengan UU lain seperti UU PDP, UU ITE, dan UU terkait pelindungan anak di ranah digital yang sangat penting untuk masa depan anak-anak.

Terakhir, hukum nasional harus diabdikan untuk kepentingan nasional. Mendukung etika, moral, jati diri, budi pekerti, dan tidak mendisrupsi ideologi dan kedaulatan negara.

UU ini harus menjadi instrumen dan infrastruktur pembangunan dan transformasi Indonesia dalam menghadapi tantangan domestik dan global.