CEO OpenAI Sam Altman đã bác bỏ những lo ngại ngày càng tăng về mô hình AI mạnh mẽ Claude Mythos của đối thủ Anthropic, cho rằng công ty này đang sử dụng "nỗi sợ hãi" để tiếp thị sản phẩm.
Phát biểu trên podcast Core Memory do nhà báo công nghệ Ashlee Vance dẫn chương trình, Altman lập luận rằng việc sử dụng "tiếp thị dựa trên nỗi sợ hãi" nhằm mục đích giữ AI trong tay một "nhóm người nhỏ hơn".
“Bạn có thể biện minh điều đó bằng nhiều cách khác nhau, và một số điều là thật, như sẽ có những lo ngại chính đáng về an toàn," Altman nói.
“Nhưng nếu điều bạn muốn là 'chúng ta cần kiểm soát AI, chỉ chúng ta thôi, vì chúng ta là những người đáng tin cậy', tôi nghĩ tiếp thị dựa trên nỗi sợ hãi có lẽ là cách hiệu quả nhất để biện minh điều đó."
Altman nói thêm rằng mặc dù có những lo ngại chính đáng về an toàn AI, "rõ ràng đó là một chiến dịch tiếp thị đáng kinh ngạc khi nói: 'Chúng tôi đã chế tạo một quả bom. Chúng tôi sắp thả nó xuống đầu bạn. Chúng tôi sẽ bán cho bạn một hầm trú ẩn với giá 100 triệu đô la. Bạn cần nó để chạy mọi thứ của mình, nhưng chỉ khi chúng tôi chọn bạn làm khách hàng.'"
Ông lưu ý rằng việc cân bằng khả năng mới của AI với niềm tin của OpenAI rằng công nghệ này nên được tiếp cận rộng rãi là "không phải lúc nào cũng dễ dàng".
Mô hình Claude Mythos của Anthropic, được tiết lộ vào tháng trước, đã thu hút sự chú ý mạnh mẽ từ các nhà nghiên cứu, chính phủ và ngành an ninh mạng, đặc biệt sau khi thử nghiệm cho thấy nó có thể tự động xác định các lỗ hổng phần mềm và thực hiện các hoạt động không gian mạng phức tạp. Mô hình này hiện chỉ được phân phối cho một số tổ chức giới hạn thông qua một chương trình hạn chế.
Việc triển khai này phản ánh sự chia rẽ rộng lớn hơn trong ngành AI về cách các hệ thống mạnh mẽ nên được triển khai, với một số công ty nhấn mạnh quyền truy cập có kiểm soát và những công ty khác ủng hộ việc phân phối rộng rãi hơn để đẩy nhanh đổi mới và hiểu biết về công nghệ.
Mythos đã trở thành tâm điểm của cuộc tranh luận đó. Khả năng của mô hình này đã được Anthropic trình bày như một bước đột phá phòng thủ – cho phép phát hiện nhanh hơn các lỗi phần mềm nghiêm trọng – và một rủi ro tấn công tiềm tàng nếu bị lạm dụng. Đầu tháng này, nó đã xác định hàng trăm lỗ hổng trong trình duyệt Firefox của Mozilla trong quá trình thử nghiệm và cũng đã chứng minh khả năng thực hiện các mô phỏng tấn công mạng đa giai đoạn.
Anthropic đã hạn chế quyền truy cập vào hệ thống thông qua Project Glasswing, cấp cho các công ty chọn lọc bao gồm Amazon, Apple và Microsoft khả năng thử nghiệm các tính năng của nó. Công ty cũng đã cam kết các nguồn lực đáng kể để hỗ trợ các nỗ lực bảo mật mã nguồn mở, lập luận rằng những người phòng thủ nên hưởng lợi từ công nghệ này trước khi nó được phổ biến rộng rãi hơn.
Mô hình này cũng đã phơi bày những hạn chế trong các hệ thống đánh giá AI hiện có, với Anthropic thừa nhận rằng nhiều tiêu chuẩn an ninh mạng hiện tại không còn đủ để đo lường khả năng của hệ thống mới nhất của họ.
Mặc dù vậy, một nhóm các nhà nghiên cứu tuần trước đã tuyên bố rằng họ có thể tái tạo các phát hiện của Mythos bằng cách sử dụng các mô hình có sẵn công khai.
Bất chấp những lời kêu gọi trong một số bộ phận của chính phủ Hoa Kỳ về việc ngừng sử dụng công nghệ này do lo ngại về các ứng dụng tiềm năng của nó trong chiến tranh và giám sát, Cơ quan An ninh Quốc gia được cho là đã bắt đầu thử nghiệm phiên bản xem trước của mô hình trên các mạng lưới được phân loại. Trên thị trường dự đoán Myriad, thuộc sở hữu của công ty mẹ Dastan của Decrypt, người dùng đã đặt 49% cơ hội Claude Mythos sẽ được phát hành rộng rãi ra công chúng trước ngày 30 tháng 6.
Altman gợi ý rằng những lời lẽ về các hệ thống AI cực kỳ nguy hiểm có thể gia tăng khi khả năng được cải thiện, nhưng lập luận rằng không phải tất cả những tuyên bố như vậy đều nên được coi là sự thật.
“Sẽ có nhiều lời lẽ hơn về các mô hình quá nguy hiểm để phát hành. Cũng sẽ có những mô hình rất nguy hiểm sẽ phải được phát hành theo những cách khác nhau,” ông nói. “Tôi chắc chắn Mythos là một mô hình tuyệt vời cho an ninh mạng nhưng tôi nghĩ chúng tôi có một kế hoạch mà chúng tôi cảm thấy hài lòng về cách chúng tôi đưa loại khả năng này ra thế giới.”
Altman cũng bác bỏ những gợi ý rằng OpenAI đang cắt giảm chi tiêu cơ sở hạ tầng, nói rằng công ty sẽ tiếp tục mở rộng năng lực tính toán của mình bất chấp những thay đổi trong câu chuyện.
“Tôi không biết điều đó đến từ đâu… mọi người thực sự muốn viết câu chuyện về việc rút lui,” ông nói. “Nhưng rất nhanh chóng, nó sẽ lại là, ‘OpenAI thật liều lĩnh. Làm thế nào họ có thể chi tiêu số tiền điên rồ này?’”
