AI dan Pengadilan (Bagian II)

Akuntabilitas dan akurasi

Pengguna juga bertanggung jawab, untuk memastikan semua informasi yang diberikan kepada pengadilan atau ribunal adalah akurat.

Pengguna harus memeriksa keakuratan informasi apa pun yang diberikan oleh chatbot AI, termasuk kutipan resmi, sebelum menggunakan informasi tersebut dalam proses pengadilan atau tribunal.

Informasi yang diberikan oleh chatbot AI mungkin tidak akurat, tidak lengkap, atau ketinggalan zaman. Hal ini mungkin juga didasarkan pada hukum negara lain.

Halusinasi

Chatbot AI menurut aturan ini dapat membuat kasus, kutipan fiktif, atau mengacu pada undang-undang, pasal atau teks hukum yang tidak ada.

Juga bisa memberikan informasi salah atau menyesatkan terkait undang-undang atau implementasinya dan membuat kesalahan faktual.

Materi fiktif yang dihasilkan oleh chatbot AI mungkin tampak seperti diambil dari sumber nyata, padahal sebenarnya tidak.

Semua informasi yang dihasilkan oleh chatbot AI harus diperiksa keakuratannya oleh orang yang berkualifikasi sebelum digunakan atau dirujuk dalam proses pengadilan atau tribunal.

Chatbot AI menghasilkan respons berdasarkan kumpulan data tempat mereka dilatih, yang sering kali berupa informasi yang tersedia untuk umum di internet.

Oleh karena itu, informasi yang dihasilkan oleh chatbot AI mungkin mencerminkan bias atau mis-informasi dalam data pelatihannya.

Selain itu aturan ini juga mengamanatkan agar pengguna mengikuti praktik terbaik dalam menjaga keamanan diri sendiri dan pengadilan atau tribunal.

New Zealand Courts mengingatkan tentang kelemahan chatbot publik. Kelemahan fundamental itu adalah kemutakhiran data hukum domestik. Data pelatihan yang digunakan oleh beberapa chatbot, mungkin sudah kedaluwarsa.

Dalam hal bias dan informasi yang merugikan atau membahayakan, tindakan pencegahan algoritmik memang telah dilakukan. Namun, tindakan penanggulangan seperti ini tidak menghilangkan risiko bias.

Pedoman yang berlaku untuk Mahkamah Agung, pengadilan banding, pengadilan tinggi, pengadilan negeri, pengadilan keluarga dll di New Zealand, dapat menjadi komparasi yang baik bagi Mahkamah Agung dalam menghadapi perkembangan AI di pengadilan.

Baca artikel selanjutnya: AI dan Pengadilan (Bagian III - Habis)