Thẩm phán quận tại Mỹ vừa rút lại một phán quyết trong vụ kiện CorMedix do bị phát hiện lỗi trích dẫn và dẫn nguồn sai, giống các lỗi AI từng xuất hiện. Sự việc nhấn mạnh rủi ro khi AI dần được ứng dụng trong lĩnh vực pháp lý.
Lỗi trích dẫn trong phán quyết vụ CorMedix bị nghi liên quan AI
Một thẩm phán tại tòa án liên bang Mỹ ở New Jersey đã phải rút lại phán quyết từ chối yêu cầu bác bỏ vụ kiện chứng khoán với công ty dược CorMedix. Nguyên nhân là do phát hiện một loạt lỗi trích dẫn và thông tin hư cấu, khiến quyết định có dấu hiệu tương tự sai sót do công cụ AI tạo ra.
Chi tiết các lỗi được phát hiện
- Lỗi ghi sai kết quả của ba vụ kiện khác.
- Trích dẫn "nhiều đoạn" không tồn tại, gán nhầm nguồn của các quyết định pháp lý trước đó.
- Thư báo cáo do luật sư Andrew Lichtman gửi đến thẩm phán Julien Xavier Neals thông báo về chuỗi sai sót này.
Phản ứng và xử lý của tòa án
- Thông báo trên hệ thống công bố: "phán quyết và lệnh nêu trên được nhập nhầm lẫn" và sẽ có ý kiến mới thay thế.
- Các sửa đổi lớn như thu hồi hoặc loại bỏ nội dung phán quyết là rất hiếm, thường tòa án chỉ điều chỉnh lỗi ngữ pháp, chính tả.
Báo động hiện tượng lỗi AI trong ngành pháp lý Mỹ
Các vụ việc liên quan đến AI gần đây
- Luật sư của người sáng lập MyPillow – Mike Lindell – từng bị phạt do trích dẫn văn bản được AI tạo ra với dữ liệu không đúng sự thực.
- Anthropic cũng gặp phải lỗi trích dẫn do chatbot Claude AI tạo ra trong vụ kiện với các hãng xuất bản âm nhạc.
Dù chưa xác nhận việc AI được dùng trong vụ CorMedix, dấu hiệu lỗi rất giống hiện trạng AI "hallucination" (AI suy diễn nội dung hoặc tạo ra thông tin không đúng sự thật).
Sự cố trích dẫn sai trong phán quyết vụ CorMedix cho thấy rủi ro thực tế khi pháp lý Mỹ ngày càng nhờ cậy các công cụ AI để nghiên cứu. Vụ việc là lời cảnh báo giá trị về giới hạn của trí tuệ nhân tạo trong các hoạt động mang tính chính xác cao như pháp luật.