Công ty luật Phố Wall Sullivan & Cromwell đã gửi lời xin lỗi đến một thẩm phán liên bang sau khi một hồ sơ tòa án có chứa khoảng 40 trích dẫn sai và các lỗi khác liên quan đến nội dung do AI tạo ra.
Vấn đề được đưa ra ánh sáng trong một lá thư do Andrew Dietderich, đồng lãnh đạo đội tái cấu trúc toàn cầu của công ty, gửi cho Chánh án Martin Glenn của Tòa án Phá sản Hoa Kỳ Khu vực phía Nam New York.
Dietderich cho biết hồ sơ này là một phần của kiến nghị khẩn cấp được đệ trình chín ngày trước đó. Ông nói với tòa án rằng công ty chấp nhận trách nhiệm về những sai sót và cho biết các bước kiểm duyệt hiện có đã không hoạt động như dự kiến trong trường hợp này.
Trong lá thư, Dietderich cho biết công ty lấy làm tiếc về những gì đã xảy ra và thừa nhận nghĩa vụ của mình trong việc đảm bảo các hồ sơ tòa án là chính xác. Ông viết, ”Chúng tôi vô cùng lấy làm tiếc về sự việc này.”
Ông cũng nói, ”Công ty và cá nhân tôi nhận thức rõ trách nhiệm của mình trong việc đảm bảo độ chính xác của tất cả các hồ sơ.” Dietderich nói thêm rằng ông nhận trách nhiệm về sai sót liên quan đến hồ sơ.
Hồ sơ tòa án chứa khoảng 40 trích dẫn không chính xác và các lỗi khác. Công ty cho biết những vấn đề này là do 'ảo giác' của AI (AI hallucinations) và những sai sót không được phát hiện trước khi nộp.
Dietderich cho biết Sullivan & Cromwell đã có các quy tắc nội bộ về việc sử dụng AI. Các quy tắc đó bao gồm việc kiểm tra các trích dẫn trước khi tài liệu được đệ trình lên tòa án.
Theo Dietderich, công ty đã có các chính sách để ngăn chặn loại vấn đề này, nhưng các thủ tục bắt buộc đã không được tuân thủ trong trường hợp này. Ông cho biết quy trình kiểm duyệt đã không phát hiện ra các trích dẫn sai và các vấn đề khác.
”Đáng tiếc, quy trình kiểm duyệt này đã không xác định được các trích dẫn không chính xác do AI tạo ra, cũng như không xác định được các lỗi khác dường như là kết quả toàn bộ hoặc một phần từ lỗi thủ công,” ông viết.
Vụ việc này bổ sung vào danh sách ngày càng tăng các hồ sơ pháp lý bị ảnh hưởng bởi lỗi AI. Một cơ sở dữ liệu do chuyên gia công nghệ pháp lý Damien Charlotin điều hành đã ghi nhận 1.334 sự cố 'ảo giác' AI trong các hồ sơ tòa án trên toàn thế giới, với hơn 900 vụ trong số đó ở Hoa Kỳ.
Charlotin cho biết nhiều trường hợp trong số này liên quan đến các trích dẫn bịa đặt. Trong một số trường hợp, các lập luận pháp lý do AI tạo ra cũng đã xuất hiện trong các hồ sơ.
Dietderich cho biết Sullivan & Cromwell đã bắt đầu một cuộc điều tra nội bộ về nguyên nhân dẫn đến các lỗi. Ông cho biết công ty đã thực hiện các biện pháp khắc phục ngay lập tức và đang xem xét liệu có cần thêm đào tạo hoặc kiểm tra nội bộ chặt chẽ hơn hay không.
Ông cũng lưu ý rằng các sai sót đã được công ty luật đối thủ Boies Schiller Flexner LLP báo cáo cho công ty. Dietderich cho biết ông đã liên hệ trực tiếp với công ty đó để cảm ơn và xin lỗi.
Sullivan & Cromwell là một trong những công ty luật lớn nhất Hoa Kỳ xét về doanh thu. Công ty cũng đã tham gia vào các vụ việc cấp cao, bao gồm đại diện cho FTX trong vụ phá sản của sàn giao dịch này.
Sự việc này đã thu hút sự chú ý mới đến những rủi ro liên quan đến việc sử dụng AI trong công việc pháp lý, đặc biệt là khi việc kiểm duyệt của con người không phát hiện ra các lỗi cơ bản trước khi nộp hồ sơ.
