Anthropic đã loại bỏ một hệ thống theo dõi ẩn khỏi Claude Code sau khi một nhà nghiên cứu bảo mật phát hiện ra rằng trợ lý mã hóa AI này đang sử dụng các dấu hiệu không được tiết lộ để xác định vị trí, việc sử dụng proxy của một số người dùng và các liên kết có thể có với các phòng thí nghiệm AI Trung Quốc.
Tính năng này, được phát hiện vào tháng 6 bởi nhà phát triển "Thereallo," đã nhúng các tín hiệu vào các câu lệnh hệ thống của Claude Code có thể gắn cờ những người dùng mà Anthropic tin rằng đang vượt qua các hạn chế hoặc cố gắng trích xuất khả năng của mô hình.
"Anthropic có lẽ muốn phát hiện các nhà bán lại API, các cổng Claude Code trái phép và các đường dẫn 'tấn công chắt lọc' mô hình," Thereallo viết. "Một ANTHROPIC_BASE_URL tùy chỉnh trỏ đến một tên miền của nhà bán lại đã biết là một tín hiệu hữu ích. Một tên máy chủ chứa deepseek hoặc zhipu cũng là một tín hiệu hữu ích."
Thereallo cho biết nỗ lực của Anthropic nhằm phát hiện các nhà bán lại, các cổng Claude Code trái phép và các cuộc tấn công chắt lọc tiềm năng là hợp lý, nhưng đã chỉ trích cách thức thực hiện, lưu ý rằng Claude Code đã giấu các tín hiệu theo dõi bên trong các câu lệnh hệ thống bằng cách sử dụng các dấu hiệu Unicode và danh sách miền được mã hóa thay vì tiết lộ hệ thống thông qua tài liệu hoặc ghi chú phát hành.
"Đây không phải là một tính năng độc hại, nhưng đó là một lựa chọn kỳ lạ đối với một công cụ dành cho nhà phát triển mà đòi hỏi sự tin tưởng," Thereallo viết.
Sau khi công cụ theo dõi bị tiết lộ trực tuyến, kỹ sư Thariq Shihipar của Anthropic cho biết trên X rằng nó được giới thiệu vào tháng 3 như một "thử nghiệm" để ngăn chặn việc lạm dụng tài khoản bởi các nhà bán lại trái phép và bảo vệ Claude khỏi các cuộc tấn công chắt lọc.
"Nhóm đã triển khai các biện pháp giảm thiểu mạnh mẽ hơn kể từ đó và chúng tôi thực sự đã có ý định gỡ bỏ cái này một thời gian rồi," Shihipar viết vào tuần trước. "Chúng tôi đã hợp nhất [yêu cầu kéo] và điều này sẽ được hoàn toàn hủy bỏ trong bản phát hành ngày mai."
Tin tức này xuất hiện khi Anthropic đã tăng cường cảnh báo về việc chắt lọc mô hình AI, nơi các đầu ra của một hệ thống được sử dụng để đào tạo một mô hình khác. Mặc dù thực tiễn này phổ biến trong nghiên cứu AI, nhưng khi nói đến địa chính trị, việc chắt lọc trở thành một mối lo ngại về an ninh quốc gia. Đầu tháng này, Alibaba đã cấm nhân viên sử dụng Claude Code, gọi công cụ này là phần mềm "rủi ro cao" do lo ngại về bảo mật.
Vào tháng 2, Anthropic đã cáo buộc các nhà phát triển AI Trung Quốc DeepSeek, Moonshot AI và MiniMax sử dụng các tài khoản gian lận để trích xuất hàng triệu phản hồi của Claude nhằm đào tạo các mô hình cạnh tranh. Các tuyên bố này đã vấp phải sự phản đối từ các nhà phê bình, những người đặt câu hỏi về sự khác biệt giữa thực tiễn này với các phương pháp được sử dụng trong toàn ngành AI.
Vào tháng 4, Elon Musk đã làm chứng rằng xAI đã "một phần" sử dụng các mô hình OpenAI trong khi đào tạo Grok, gọi việc chắt lọc là một thực tiễn rộng lớn hơn trong ngành. Vào tháng 6, CEO Dario Amodei của Anthropic đã thúc giục Quốc hội tăng cường bảo vệ chống lại việc trích xuất AI từ nước ngoài sau khi cáo buộc các nhà điều hành liên quan đến Alibaba đã tạo ra 28,8 triệu trao đổi Claude bằng cách sử dụng gần 25.000 tài khoản gian lận.
Anthropic đã không trả lời ngay lập tức yêu cầu bình luận từ Decrypt.
