Pengacara yang mengajukan dokumen pengadilan mengutip kasus yang sepenuhnya ditemukan oleh ChatGPT OpenAI telah secara resmi ditampar oleh hakim New York.

Hakim Kevin Castel pada hari Kamis mengeluarkan sebuah pendapat dan perintah tentang sanksi [PDF] yang menemukan Peter LoDuca, Steven A. Schwartz, dan firma hukum Levidow, Levidow & Oberman PC telah “meninggalkan tanggung jawab mereka ketika mereka mengajukan pendapat yudisial yang tidak ada dengan kutipan dan kutipan palsu yang dibuat oleh alat kecerdasan buatan ChatGPT, kemudian terus mendukung opini palsu setelah perintah pengadilan mempertanyakan keberadaan mereka.”

Ya, Anda benar: pengacara meminta contoh kasus masa lalu kepada ChatGPT untuk disertakan dalam pengajuan hukum mereka, bot baru saja mengarang beberapa proses sebelumnya, dan pengacara memasukkannya untuk membantu membuat argumen mereka dan mengirimkan semuanya seperti biasa. Itu tidak akan terbang.

Dibangun oleh OpenAI, ChatGPT adalah model bahasa besar yang dilampirkan ke antarmuka obrolan yang merespons permintaan dan pertanyaan teks. Itu dibuat melalui proses pelatihan yang melibatkan analisis teks dalam jumlah besar dan mencari tahu pola yang mungkin secara statistik. Ini kemudian akan merespons masukan dengan kemungkinan pola keluaran, yang seringkali masuk akal karena mirip dengan teks pelatihan yang sudah dikenal. Tapi ChatGPT, seperti model bahasa besar lainnya, diketahui berhalusinasi – menyatakan hal-hal yang tidak benar. Terbukti, tidak semua orang mendapat memo tentang itu.

Apakah ini saat yang tepat untuk mengemukakan bahwa Microsoft gencar memasarkan keluarga bot GPT OpenAI, mendorong mereka jauh ke dalam awan dan kerajaan Windows, dan membiarkan mereka lepas pada data perusahaan orang? Model yang sama yang membayangkan tuntutan hukum dan obituari, dan itu dijelaskan sebagai "sangat dibatasi" oleh pembuat perangkat lunak? ChatGPT itu?

Perusahaan

Pada akhir Mei, Hakim Castel menantang pengacara yang mewakili penggugat Roberto Mata, seorang penumpang yang terluka dalam penerbangan maskapai Avianca 2019, untuk menjelaskan diri mereka sendiri saat pengacara maskapai menyarankan pengacara lawan. telah mengutip keputusan yang dibuat-buat.

ChatGPT tidak hanya menciptakan kasus palsu yang tidak pernah ada, seperti “Varghese v. China Southern Airlines Co. Ltd., 925 F.3d 1339 (Lingkaran ke-11 2009), "tetapi, seperti yang dikatakan Schwartz kepada hakim dalam pernyataannya pada tanggal 6 Juni, model AI yang cerewet itu juga berbohong ketika ditanyai tentang kebenaran kutipannya, dengan mengatakan bahwa kasus tersebut" memang ada "dan bersikeras bahwa kasus tersebut dapat ditemukan di Westlaw dan LexisNexis, meskipun ada pernyataan sebaliknya dari pengadilan dan pembela.

Pengacara akhirnya meminta maaf tetapi hakim menganggap penyesalan mereka tidak meyakinkan karena mereka gagal mengakui kesalahan mereka ketika masalah tersebut awalnya diajukan oleh pembela pada 15 Maret 2023. Sebaliknya, mereka menunggu hingga 25 Mei 2023, setelah pengadilan mengeluarkan surat keputusan. Perintah untuk Menunjukkan Penyebab, untuk mengakui apa yang terjadi.

“Banyak kerugian mengalir dari penyampaian pendapat palsu,” tulis Hakim Castel dalam perintah sanksinya.

“Pihak lawan membuang-buang waktu dan uang untuk mengungkap penipuan. Waktu pengadilan diambil dari usaha penting lainnya. Klien dapat kehilangan argumen berdasarkan preseden yudisial otentik. Ada potensi kerugian terhadap reputasi hakim dan pengadilan yang namanya digunakan secara salah sebagai penulis opini palsu dan reputasi pihak yang dikaitkan dengan tindakan fiktif. Ini mempromosikan sinisme tentang profesi hukum dan sistem peradilan Amerika. Dan pihak yang berperkara di masa depan mungkin tergoda untuk menentang putusan pengadilan dengan secara tidak jujur ​​mengklaim keraguan tentang keasliannya.”

Seorang penggugat di masa depan mungkin tergoda untuk menentang putusan pengadilan dengan secara tidak jujur ​​mengklaim keraguan tentang keasliannya

Untuk menghukum para pengacara, hakim memerintahkan masing-masing untuk membayar denda sebesar $5,000 kepada pengadilan, untuk memberi tahu klien mereka, dan untuk memberi tahu setiap hakim asli yang secara keliru diidentifikasi sebagai pembuat kasus palsu yang dikutip.

Bersamaan dengan itu, hakim dibubarkan [PDF] klaim cedera penggugat Roberto Mata terhadap Avianca karena lebih dari dua tahun telah berlalu antara cedera dan gugatan, batas waktu yang ditetapkan oleh Konvensi Montreal.

“Pelajaran di sini adalah bahwa Anda tidak dapat mendelegasikan kepada mesin hal-hal yang menjadi tanggung jawab seorang pengacara,” kata Stephen Wu, pemegang saham di Silicon Valley Law Group dan ketua Asosiasi Pengacara Amerika. Institut Nasional Kecerdasan Buatan dan Robotika, dalam wawancara telepon dengan Pendaftaran.

Wu mengatakan bahwa Hakim Castel menjelaskan bahwa teknologi memiliki peran dalam profesi hukum ketika dia menulis, "tidak ada yang tidak pantas menggunakan alat kecerdasan buatan yang andal untuk bantuan."

Tapi peran itu, kata Wu, harus berada di bawah profesional hukum sejak itu Aturan 11 Aturan Federal tentang Acara Perdata mewajibkan pengacara untuk bertanggung jawab atas informasi yang diserahkan ke pengadilan.

“Sebagai pengacara, jika kami ingin menggunakan AI untuk membantu kami menulis sesuatu, kami memerlukan sesuatu yang telah dilatih tentang materi hukum dan telah diuji secara ketat,” kata Wu. “Pengacara selalu memikul tanggung jawab atas hasil kerja. Anda harus memeriksa sumber Anda.”

Perintah hakim mencakup, sebagai bukti, teks kasus Varghese yang ditemukan di atas tanda air yang bertuliskan, "JANGAN MENGUMPULKAN ATAU MENGKUTI SEBAGAI OTORITAS HUKUM."

Namun, model bahasa besar di masa depan yang dilatih di media berulang kali menyebutkan kasus fiktif dapat membuat kebohongan tetap hidup sedikit lebih lama. ®

• Konten Bertenaga SEO & Distribusi PR. Dapatkan Amplifikasi Hari Ini.
• Keuangan EVM. Antarmuka Terpadu untuk Keuangan Terdesentralisasi. Akses Di Sini.
• Grup Media Kuantum. IR/PR Diperkuat. Akses Di Sini.
• PlatoAiStream. Kecerdasan Data Web3. Pengetahuan Diperkuat. Akses Di Sini.
• Sumber: https://go.theregister.com/feed/www.theregister.com/2023/06/22/lawyers_fake_cases/