Kontroversi Artificial Intelligence dan Penegakan Hukum

SELEKTIF dalam menggunakan data yang dihasilkan Artificial Intelligence (AI) dalam berbagai hal termasuk pada proses pengadilan dan Arbitrase adalah keniscayaan.

Kelalaian dalam menggunakan data AI tanpa melakukan cek ricek, klarifikasi dan konfirmasi terhadap sumber data terpercaya, adalah kesalahan besar, dan bisa berujung sanksi hukum yang berdampak serius.

Dalam artikel saya di Kompas.com berjudul “Apakah Al Dapat Jadi Arbiter Dalam Penyelesaian Sengketa Bisnis? (Kompas.com, 6/11/2023) dijelaskan bahwa AI dapat dimanfaatkan untuk penelitian hukum, pemrosesan dan penyusunan Bahasa, dan proses memilih dan mencari alternatif arbiter, namun harus tetap melakukan pemeriksaan fakta secara benar dan dilakukan komparasi dengan data akurat.

Selain itu, platform AI yang digunakan harus trustworthy dalam arti terpercaya. Menggunakan platform AI publik yang tidak spesifik dan tidak trustworthy akan menuai risiko.

Oleh karena itu, tak mengherankan jika penggunaan AI untuk proses penegakan hukum digolongkan sebagai AI dengan risiko tinggi (high risk) dalam naskah UU AI Uni Eropa, yang saat ini mendekati tahap akhir pengundangan.

Sistem AI level risiko tinggi, menurut EU-AI Act, akan dinilai atau diasesmen sebelum dipasarkan, dan juga sepanjang siklus hidupnya.

Sebagai contoh AI generatif, seperti ChatGPT, juga diwajibkan transparan dalam pengungkapan konten yang dihasilkannya, dan menyediakan rancangan model pencegahan konten ilegal.

Pengacara dihukum karena ChatGPT

Tidak dapat dipungkiri AI memberi banyak manfaat. Namun menggunakan AI yang hasil luarannya bias, fiktif, halusinatif, dan tak akurat tanpa cek ricek dan pemeriksaan cermat, akan berakibat fatal. Apalagi jika digunakan dalam proses peradilan atau penegakan hukum.

ChatGPT telah memakan korban. Tak tanggung-pengacara AS didenda oleh Pengadilan Manhattan karena menyampaikan data yang diperoleh dari ChatGPT dalam proses gugatan, yang ternyata palsu atau fiktif dan tak pernah terjadi.

Kasus ini sontak menghebohkan dunia peradilan di AS, yang terkenal sangat ketat.

Sebagaimana dilansir The Guardian dengan judul "Two US lawyers fined for submitting fake court citations from ChatGPT," bahwa hakim AS telah menjatuhkan sanksi denda terhadap dua pengacara dan salah satu firma hukum sebesar 5.000 dollar AS dalam kasus ChatGPT.

Denda dijatuhkan kepada pengacara Steven Schwartz dan Peter LoDuca, serta firma hukum mereka Levidow, Levidow & Oberman P.C.

Mereka terbukti menggunakan jawaban ChatGPT yang ternyata berisi kasus fiktif yang tidak pernah ada. Kasus ini tentu berdampak signifikan terhadap reputasi.

Dilansir New York Times, (8/6/2023) bahwa di pengadilan Manhattan, pengacara Steven A. Schwartz, diperiksa oleh hakim terkait opini dan kutipan hukum palsu yang semuanya dihasilkan oleh ChatGPT.

Pengacara Swarzt secara terus-terang mengatakan bahwa ia tidak mengerti bahwa ChatGPT dapat mengarang kasus.