Hakim Mendenda Pengacara Karena Menggunakan Riset Hukum Palsu yang Dihasilkan oleh AI

Seorang hakim AS telah memberikan kritikan tajam terhadap dua firma hukum karena menyertakan informasi hukum palsu yang dihasilkan oleh AI dalam pengajuan pengadilan, menyebutnya sebagai pelanggaran besar terhadap tanggung jawab hukum.

Hakim Michael Wilner, yang berbasis di California, mendenda perusahaan-perusahaan tersebut sebesar $31,000 setelah menemukan bahwa ringkasan kasus tersebut dipenuhi dengan “kutipan dan pernyataan hukum yang salah, tidak akurat, dan menyesatkan,” seperti yang pertama kali dilaporkan oleh WIRED.

“Tidak seorang pengacara yang kompeten seharusnya menyerahkan penelitian dan penulisan kepada AI,” tulis Wilner dalam putusannya, memperingatkan bahwa ia hampir mencantumkan kasus palsu dalam sebuah perintah yudisial.

“Saya membaca argumen mereka, terpengaruh (atau setidaknya tertarik) oleh otoritas yang mereka kutip, dan mencari keputusan tersebut untuk mempelajari lebih lanjut tentang mereka – hanya untuk menemukan bahwa mereka tidak ada,” katanya, seperti yang dilaporkan oleh WIRED. “Itu menakutkan,” tambahnya.

Situasi ini muncul selama gugatan sipil terhadap State Farm. Seorang pengacara menggunakan alat AI untuk membuat kerangka hukum. Dokumen tersebut, yang berisi penelitian palsu, diserahkan ke firma hukum yang lebih besar, K&L Gates, yang menambahkannya ke pengajuan resmi.

“Tampaknya tidak ada pengacara atau staf di kedua firma tersebut yang memeriksa sitasi atau mereview penelitian tersebut sebelum mengajukan ringkasan,” catat Wilner, seperti dilaporkan oleh WIRED.

Setelah mengetahui bahwa setidaknya dua dari kasus yang dikutip sepenuhnya dibuat-buat, Hakim Wilner meminta klarifikasi dari K&L Gates. Ketika mereka mengajukan versi baru, ternyata mencakup lebih banyak kutipan palsu. Hakim menuntut penjelasan, yang mengungkapkan pernyataan bersumpah yang mengakui penggunaan alat AI, seperti dilaporkan oleh WIRED..

Wilner menyimpulkan: “Penggunaan awal produk AI yang tidak diungkapkan untuk menghasilkan draf pertama dari pengajuan itu benar-benar salah […] Dan mengirimkan materi tersebut kepada pengacara lain tanpa mengungkapkan asal usul AI yang meragukan secara realistis menempatkan para profesional tersebut dalam bahaya,” seperti dilaporkan oleh WIRED.

Ini bukanlah kali pertama AI menimbulkan masalah di ruang sidang. Bahkan, baru-baru ini dua pengacara di Wyoming mengakui telah menggunakan kasus yang dihasilkan oleh AI palsu dalam pengajuan gugatan terhadap Walmart di pengadilan. Seorang hakim federal mengancam untuk memberikan sanksi kepada mereka juga.

Dalam skenario ini, “halusinasi” AI — informasi buatan yang dihasilkan oleh alat AI — menjadi kekhawatiran yang semakin berkembang dalam sistem hukum.