AI dan Pengadilan (Bagian II)

Kewajiban profesional

Peradilan mempunyai tanggung jawab keseluruhan atas integritas administrasi peradilan dan proses peradilan. Selain itu, tugas utama seorang pengacara yang bertindak dalam litigasi, adalah (tanggung jawabnya) kepada pengadilan.

Sebagai bagian dari proses peradilan, pengacara tidak boleh menyesatkan pengadilan. Mereka harus mengambil semua langkah wajar untuk memastikan keakuratan informasi, termasuk kutipan resmi yang diberikan kepada pengadilan.

Selain itu, pengacara memiliki kewajiban profesional terhadap kliennya, pihak lawan, dan penasihat hukum lawan. Hal ini mencakup kewajiban untuk menjaga dan melindungi informasi pribadi dan rahasia.

Setiap penggunaan platform AI generatif, dalam konteks proses pengadilan harus konsisten dengan tetap mematuhi kewajiban profesional sesuai perundang-undangan.

Pemahaman komprehensif

Pedoman New Zealand Corts ini juga menekankan, sebelum menggunakan chatbot AI atau alat AI lainnya, pengguna harus memastikan ia memiliki pemahaman dasar tentang kemampuan AI dan potensi keterbatasannya dengan memahami berapa hal sebagai berikut:

Pertama, Chatbot AI generatif bukanlah mesin pencari. Platform tidak memberikan jawaban dari database pelatihan.

Chatbot ini justru menghasilkan berbagai output dan teks baru dengan menggunakan algoritma kompleks, berdasarkan petunjuk yang diterima dan berdasar data yang telah dilatihkan kepadanya.

Luaran (output) yang dihasilkan chatbot AI adalah apa yang diprediksi sebagai kombinasi kata yang paling mungkin, berdasarkan dokumen dan data yang disimpannya sebagai sumber informasi. Oleh karena itu, belum tentu merupakan jawaban yang paling akurat.

Kedua, Chatbot AI yang tersedia saat ini tampaknya memiliki akses terbatas terhadap data pelatihan hukum di negara setempat, hukum atau persyaratan prosedural yang berlaku di pengadilan/tribunal di negara tersebut. Fakta ini relatif sama di berbagai negara.

Ketiga, kualitas jawaban yang diterima akan bergantung pada cara pengguna berinteraksi dengan alat AI yang relevan, termasuk “kualitas” perintah yang dimasukkan.

Bahkan dengan petunjuk terbaik sekalipun, informasi yang diberikan mungkin tidak akurat, tidak lengkap, menyesatkan, atau bias.

Kerahasiaan dan privasi

Terkait kerahasiaan dan privasi, AI Guidlines New Zealand Courts mengatur:

Pertama, larangan memasukkan informasi apa pun yang bersifat pribadi, rahasia, disembunyikan, atau diistimewakan secara hukum ke dalam chatbot AI.

Chatbot AI dapat mengingat setiap pertanyaan yang diajukan, serta informasi lain yang dimasukkan ke dalamnya. Data ini kemudian dapat digunakan sebagai informasi untuk menanggapi pertanyaan dari pengguna lain.

Pedoman mengingatkan, apa pun yang diketik di chatbot AI dapat mungkin diketahui publik. Hal ini dapat mengakibatkan pengguna secara tidak sengaja melanggar aturan, atau secara tidak sengaja mengungkapkan informasi diri sendiri, klien, atau pihak ketiga yang dirahasiakan, diistimewakan, bersifat pribadi, atau rahasia.