Công ty luật Sullivan & Cromwell của Phố Wall đã gửi lời xin lỗi đến một thẩm phán liên bang sau khi nộp một hồ sơ tòa án chứa khoảng 40 trích dẫn sai và các lỗi khác do "ảo giác" của AI gây ra.
“Chúng tôi vô cùng hối tiếc vì điều này đã xảy ra,” Andrew Dietderich, đồng trưởng nhóm tái cấu trúc toàn cầu của Sullivan & Cromwell, đã viết vào thứ Sáu trong một lá thư gửi Chánh án Martin Glenn của Tòa án Phá sản Hoa Kỳ Khu vực phía Nam New York.
“Công ty và tôi nhận thức rõ trách nhiệm của mình trong việc đảm bảo tính chính xác của tất cả các hồ sơ, bao gồm cả theo Quy tắc Phá sản Địa phương 9011-1(d), và tôi chịu trách nhiệm về việc không thực hiện được điều đó,” ông nói về một kiến nghị khẩn cấp được nộp chín ngày trước đó.
Sự việc này làm nổi bật rủi ro mà các công cụ AI có thể gây ra trong các công việc chuyên môn có tính rủi ro cao nếu không có sự giám sát phù hợp. Một cơ sở dữ liệu do chuyên gia công nghệ pháp lý Damien Charlotin quản lý đã ghi nhận 1.334 trường hợp "ảo giác" của AI trong các hồ sơ tòa án trên toàn thế giới, trong đó có hơn 900 trường hợp ở Mỹ.
Charlotin chỉ ra rằng hầu hết các trường hợp "ảo giác" này liên quan đến các trích dẫn bịa đặt, mặc dù các lập luận pháp lý do AI tạo ra cũng thỉnh thoảng được xác định.
Dietderich cho biết Sullivan & Cromwell có các chính sách về việc sử dụng công cụ AI, bao gồm việc xem xét các trích dẫn mà nó sử dụng, nhưng ông nói rằng các chính sách này đã không được tuân thủ.
“Đáng tiếc, quá trình xem xét này đã không phát hiện ra các trích dẫn không chính xác do AI tạo ra, cũng như không phát hiện các lỗi khác dường như là kết quả toàn bộ hoặc một phần từ lỗi thủ công.”
Sullivan & Cromwell là một trong những công ty luật lớn nhất ở Mỹ tính theo doanh thu, xếp thứ 30 trên bảng xếp hạng AmLaw Global 200. Công ty cũng đại diện cho sàn giao dịch tiền mã hóa FTX trong vụ phá sản của mình.
Dietderich cho biết công ty luật đã thực hiện “các biện pháp khắc phục ngay lập tức,” bao gồm một cuộc xem xét đầy đủ các tình huống dẫn đến lỗi.
Liên quan: Giao thức thanh toán AI x402 của Coinbase ra mắt cửa hàng ứng dụng cho các agent AI
Công ty cũng đang “đánh giá xem liệu có cần thiết phải tăng cường thêm các quy trình đào tạo và xem xét nội bộ của mình hay không,” Dietderich nói.
Dietderich cũng lưu ý rằng các lỗi đã được phát hiện bởi một công ty luật đối thủ.
“Tôi cũng đã gọi cho Boies Schiller Flexner LLP vào thứ Sáu để cảm ơn họ đã đưa vấn đề này đến sự chú ý của chúng tôi và cũng trực tiếp xin lỗi họ,” ông nói.
Tạp chí: IronClaw đối đầu OpenClaw, Olas ra mắt bot cho Polymarket — AI Eye
