Kontroversi Artificial Intelligence dan Penegakan Hukum

New York Times lebih lanjut menyatakan, peristiwa ini telah memantik perdebatan tentang bahaya, bahkan ancaman nyata terhadap kemanusiaan, yang ditimbulkan oleh kecerdasan buatan.

Peristiwa ini berawal dari seorang pria bernama Roberto Mata, yang menggugat maskapai penerbangan Avianca dengan klaim bahwa dia terluka ketika troli di pesawat mengenai lututnya dalam penerbangan dari El Salvador ke New York.

Menghadapi hal ini, Tergugat meminta pengadilan menolak karena limit waktu pengajuan gugatan telah terlewati.

Persoalan dimulai saat pengacara penggugat menyampaikan ringkasan 10 halaman yang mengutip lebih dari setengah lusin putusan pengadilan, dengan bukti kasus-kasus yang dinyatakannya telah menjadi yurisprudensi.

Kasus-kasus seperti Martinez v. Delta Air Lines, Zicherman v. Korean Air Lines dan Varghese v. China Southern Airlines diutarakan sebagai opini untuk mendukung argumen mereka bahwa gugatan itu harus dikabulkan untuk dilanjutkan diadili.

Ternyata kasus "buatan" ChatGPGT itu justru fiktif, atau melibatkan maskapai penerbangan yang tidak ada. Pengacara lawan juga tidak dapat menemukan data putusannya.

Schwartz, yang telah berpraktik hukum di New York selama 30 tahun, mengatakan bahwa ia yakin ChatGPT memiliki jangkauan yang lebih luas daripada database standar dan mengasumsikannya sebagai mesin pencari super.

Schwartz menyatakan bahwa ChatGPT memberikan teks tanggapan yang logis atas enam kasus yang kemudian ia rujuk dalam gugatannya.

Kontroversi dan kesalahan

Kasus ini telah memantik perdebatan, apakah AI dapat digunakan dalam proses pengadilan atau arbitrase?

Dalam hal ini, Hakim P Kevin Castel yang menangani kasus ChatGPT di Pengadilan Manhattan mengatakan bahwa tidak ada yang “tidak pantas” dalam penggunaan kecerdasan buatan untuk membantu pekerjaan hukum.

Hakim Castel lebih lanjut menyatakan bahwa kemajuan teknologi adalah hal biasa. Menggunakan instrumen AI yang andal untuk mendapatkan bantuan tidaklah salah.

Hakim senior New York itu menambahkan, pengacara harus memastikan pengajuan mereka akurat. Hukum yang berlaku memberlakukan peran penjaga gerbang ada pada pengacara, untuk memastikan keakuratan pengajuan mereka.

Dalam kasus ini hakim justru menemukan fakta bahwa para pengacara dan kantor hukumnya melepaskan tanggung jawab saat menyerahkan opini yudisial yang dibuat ChatGPT.

Kesalahan tampak terus berlanjut di mana pengacara terus berupaya mempertahankan opini palsu tersebut dalam proses pengadilan.

Realitas ini tentu harus menjadi perhatian kalangan profesi hukum. Penggunaan AI generatif seperti ChatGPT yang masih rentan terhadap halusinasi dan luaran data bias tak akurat.