Công ty luật Sullivan & Cromwell đã thừa nhận trước tòa án phá sản Hoa Kỳ rằng một hồ sơ gần đây trong một vụ án nổi tiếng có chứa các lỗi do trí tuệ nhân tạo (AI) tạo ra, bao gồm cả các trích dẫn bịa đặt.
“Chúng tôi vô cùng lấy làm tiếc về sự việc này,” Andrew Dietderich, người đứng đầu bộ phận tái cấu trúc của công ty, đã viết thư gửi Thẩm phán Martin Glenn, nói rằng tài liệu này bao gồm các “ảo giác” của AI đã tạo ra các văn bản pháp luật giả mạo và bóp méo những văn bản hiện có.
Việc tiết lộ này được đưa ra trong một bức thư gửi Tòa án Phá sản Hoa Kỳ Khu vực phía Nam New York, nơi công ty đại diện cho các thanh lý viên do tòa án chỉ định từ Quần đảo Virgin thuộc Anh. Các sai sót xuất hiện trong một kiến nghị ngày 9 tháng 4 và công ty cho biết các quy tắc về việc sử dụng AI của họ đã không được tuân thủ trong quá trình chuẩn bị.
Vụ việc liên quan đến nỗ lực của các thanh lý viên này nhằm theo đuổi các khiếu nại liên quan đến Prince Group và chủ sở hữu của nó, Chen Zhi. Các công tố viên cáo buộc Chen đã chỉ đạo các dự án lừa đảo nhắm vào nạn nhân trên toàn thế giới và đã tìm cách thu hồi hàng tỷ đô la tiền điện tử mà họ nói có liên quan đến hoạt động này. Ông ta đã bị giam giữ vào đầu năm nay tại Campuchia và sau đó được hồi hương về Trung Quốc.
Thông qua thủ tục Chương 15 tại Hoa Kỳ, các thanh lý viên đang tìm kiếm sự công nhận về quyền hạn của họ để hành động thay mặt cho các chủ nợ và các nạn nhân bị cáo buộc. Prince Group, được thành lập tại Quần đảo Virgin thuộc Anh, đã bị chính quyền Hoa Kỳ liên kết với các hoạt động lừa đảo quy mô lớn ở Đông Nam Á và bị chính phủ Anh và Hoa Kỳ trừng phạt.
Theo một đệ trình đã được chỉnh sửa, hồ sơ tháng 4 đã trình bày sai luật án lệ ở nhiều chỗ và bao gồm các trích dẫn không hỗ trợ cho các lập luận được gán cho chúng, trong khi một số dường như không có căn cứ nào cả. Công ty đã rút kiến nghị gốc và nộp một phiên bản sửa đổi.
Các luật sư đại diện cho Prince Group và Chen tại Boies Schiller Flexner ban đầu đã xác định các lỗi. Họ cho biết ngôn ngữ được gán cho Bộ luật Phá sản Hoa Kỳ không thể được tìm thấy và một số văn bản pháp luật đã bị mô tả sai hoặc xác định sai. Trong một trường hợp, họ nói, một vụ án được trích dẫn đã đề cập đến một quyết định khác trong một khu vực pháp lý khác.
Trong một hồ sơ riêng, các bị cáo cho biết ít nhất 28 trích dẫn là sai, bao gồm cả các trích dẫn được gán cho tòa án mà không tồn tại. Họ lập luận rằng thời điểm chỉnh sửa là bất lợi vì hồ sơ sửa đổi được nộp sau khi họ đã đệ trình phản đối, và yêu cầu tòa án hoãn phiên điều trần đã lên lịch và tổ chức một cuộc họp tình trạng vụ án.
Sullivan & Cromwell cho biết các chính sách của họ yêu cầu luật sư phải hoàn thành khóa đào tạo trước khi sử dụng công cụ AI và tự mình xác minh tất cả các kết quả đầu ra.
"Trước khi bất kỳ luật sư nào của công ty được cấp quyền truy cập vào các công cụ AI tạo sinh, luật sư đó phải hoàn thành hai module đào tạo bắt buộc, việc hoàn thành này được theo dõi và xác minh. Khóa đào tạo liên tục nhấn mạnh rủi ro của các 'ảo giác' AI, bao gồm việc bịa đặt các trích dẫn án lệ, hiểu sai các văn bản pháp luật và trích dẫn không chính xác," công ty cho biết.
"Nó hướng dẫn luật sư 'không tin gì cả và xác minh mọi thứ' và nêu rõ rằng việc không tự mình xác minh kết quả do AI tạo ra cấu thành hành vi vi phạm chính sách của Công ty."
Công ty cho biết một cuộc rà soát rộng hơn đã tìm thấy các vấn đề nhỏ khác trong các hồ sơ khác, mà họ cho là do lỗi của con người chứ không phải AI. Công ty không tiết lộ danh tính các luật sư đã chuẩn bị kiến nghị gốc.
Sự việc này bổ sung vào danh sách ngày càng tăng các sai sót liên quan đến AI trong hoạt động pháp lý khi các công ty thử nghiệm các công cụ được thiết kế để đẩy nhanh việc nghiên cứu và soạn thảo. Các tòa án gần đây đã xử phạt hoặc chỉ trích các luật sư vì đã nộp hồ sơ với các tài liệu tham khảo bịa đặt hoặc không chính xác do AI tạo ra. Ở Úc, một luật sư đã bị tước quyền hành nghề luật sư chính vào năm ngoái do sử dụng AI.
Các trường luật đang bắt đầu yêu cầu hướng dẫn về công nghệ này, trong khi các thẩm phán cấp cao đã cảnh báo rằng việc lạm dụng có thể ảnh hưởng đến tính toàn vẹn của các thủ tục tố tụng.
Các phán quyết gần đây cũng đã đề cập đến việc AI phù hợp như thế nào trong các khuôn khổ pháp lý hiện có, bao gồm liệu các tương tác với các công cụ như vậy có được bảo vệ bởi đặc quyền hay không. Đồng thời, một số tòa án đang thử nghiệm các hệ thống AI để giúp quản lý số lượng vụ án lớn.
