Alibaba đã cấm nhân viên sử dụng Claude Code của Anthropic trong môi trường làm việc từ ngày 10 tháng 7 do lo ngại về bảo mật liên quan đến các cửa hậu (backdoor) bị cài cắm, theo một người quen thuộc với quyết định này.
Theo một nguồn tin quen thuộc với vấn đề này, lệnh hạn chế sẽ được áp dụng trên toàn bộ môi trường làm việc nội bộ của Alibaba và có hiệu lực từ ngày 10 tháng 7. Người này cho biết công ty đã đưa ra quyết định vì những rủi ro bảo mật bị cáo buộc liên quan đến các cửa hậu (backdoor) được cài cắm trong trợ lý mã hóa.
Tính đến thời điểm xuất bản, Alibaba chưa đưa ra tuyên bố chính thức nào, và không có thêm chi tiết nào về những lo ngại bảo mật bị cáo buộc hoặc phạm vi của lệnh hạn chế được tiết lộ.
Diễn biến mới nhất diễn ra chỉ vài tuần sau khi các mô hình Claude của Anthropic mất quyền truy cập vào một nhóm khách hàng doanh nghiệp lớn khác ở Hồng Kông. Vào tháng 6, Financial Times đã đưa tin rằng JPMorgan đã ngừng cho phép nhân viên ở Hồng Kông chọn các mô hình Claude từ danh sách các mô hình ngôn ngữ lớn được ngân hàng phê duyệt do các điều khoản cấp phép của Anthropic quy định nơi các mô hình có thể được sử dụng.
Báo cáo cho biết Goldman Sachs trước đó đã đưa ra một hạn chế tương tự sau khi xác định rằng các điều khoản dịch vụ của Anthropic loại trừ việc sử dụng trên khắp Greater China, bao gồm Hồng Kông. Anthropic sau đó nói với Financial Times rằng Claude chưa bao giờ được hỗ trợ chính thức ở Hồng Kông, trong khi JPMorgan từ chối bình luận.
Những hạn chế đó đã làm gia tăng lo ngại giữa một số tổ chức tài chính ở Hồng Kông khi các công cụ AI tiên tiến ngày càng được tích hợp sâu hơn vào phát triển phần mềm, nghiên cứu và quy trình làm việc dịch vụ tài chính, theo Financial Times.
Quyết định của Alibaba cũng diễn ra sau vài tuần đầy biến động đối với các hệ thống AI mới nhất của Anthropic. Vào ngày 1 tháng 7, công ty đã khôi phục quyền truy cập công cộng vào các mô hình Claude Fable 5 và Mythos 5 của mình sau khi chính quyền Hoa Kỳ dỡ bỏ các hạn chế xuất khẩu đã buộc Anthropic phải tạm ngừng chúng vào tháng 6.
Anthropic cho biết họ đã tiếp tục triển khai sau những gì họ mô tả là các cuộc thảo luận hiệu quả với các quan chức Hoa Kỳ và đã thêm các bộ phân loại mới được thiết kế để phát hiện và chặn nhiều tác vụ liên quan đến an ninh mạng hơn. Công ty cho biết các biện pháp bảo vệ bổ sung đã giải quyết những lo ngại của chính phủ về khả năng lạm dụng thông qua các kỹ thuật "jailbreak".
Trong khi bảo vệ công nghệ của mình, Anthropic lập luận rằng việc "jailbreak" được báo cáo chỉ liên quan đến một phương pháp hạn chế chứ không phải là một cách bỏ qua phổ biến các biện pháp bảo vệ an toàn của mô hình. Công ty cũng đã công bố hợp tác mở rộng với chính phủ Hoa Kỳ về kiểm thử mô hình, đánh giá an toàn, theo dõi lạm dụng và chia sẻ thông tin liên quan đến rủi ro "jailbreak".
