Cuộc thảo luận giữa CEO Dario Amodei của Anthropic và CEO Jamie Dimon của JPMorgan Chase vào thứ Ba đã tập trung vào mối đe dọa an ninh mạng ngày càng tăng do trí tuệ nhân tạo gây ra, khi AI này xác định các lỗ hổng nhanh hơn các tổ chức có thể khắc phục chúng.
Tại sự kiện kéo dài gần hai giờ liên quan đến nỗ lực của Anthropic trong lĩnh vực dịch vụ tài chính, nơi công ty này đã giới thiệu các tác nhân AI (AI agents) cho các tác vụ như sách giới thiệu đầu tư (pitchbooks), xem xét báo cáo tài chính (earnings review) và công việc tuân thủ (compliance work), Amodei cho biết có thể có một khoảng thời gian từ sáu đến 12 tháng để giải quyết hàng chục nghìn lỗ hổng được phát hiện bởi mô hình Mythos của công ty trước khi các khả năng tương tự trở nên phổ biến hơn.
Amodei nói: “Mối nguy hiểm chỉ là sự gia tăng khổng lồ về số lượng lỗ hổng, số lượng vi phạm, về thiệt hại tài chính do mã độc tống tiền (ransomware) gây ra cho các trường học, bệnh viện, chưa kể các ngân hàng.”
Những tuyên bố mới nhất của Amodei được đưa ra sau các thử nghiệm trước đó với Mozilla, khi một phiên bản đầu tiên của Mythos đã xác định 271 lỗ hổng trong trình duyệt Firefox chỉ trong một lần quét, cho thấy AI có thể quét các cơ sở mã (codebases) lớn nhanh hơn nhiều so với các nhà nghiên cứu con người.
Anthropic cho biết mô hình này có thể phát hiện hàng nghìn điểm yếu chưa từng được biết đến trước đây trên các phần mềm được sử dụng rộng rãi. Nhiều điểm yếu vẫn chưa được tiết lộ vì chúng chưa được vá lỗi, để lại các lỗ hổng chưa được giải quyết.
Amodei nói: “Nếu chúng tôi công bố điều gì đó mà chưa được khắc phục, thì những kẻ xấu sẽ khai thác nó.”
Trong các thử nghiệm được kiểm soát, Mythos đã hoàn thành các mô phỏng tấn công mạng nhiều bước mà không cần sự can thiệp của con người, cho thấy khả năng chuyển từ việc xác định điểm yếu sang khai thác chúng.
Anthropic đã giới hạn mô hình này cho một nhóm nhỏ đối tác trong khuôn khổ Dự án Glasswing, nhằm mục đích khắc phục các lỗ hổng trước khi các công cụ tương tự trở nên phổ biến rộng rãi.
Các nhà nghiên cứu đã chỉ ra rằng các yếu tố của khả năng của Mythos có thể được tái tạo bằng cách sử dụng các mô hình hiện có và kỹ thuật mã nguồn mở, cho thấy các công cụ tương tự có thể lan rộng nhanh hơn dự kiến.
Những cảnh báo này đã gây ra sự hoài nghi trong ngành. Vào tháng 4, CEO Sam Altman của OpenAI cho biết những lo ngại về Mythos có thể bị thổi phồng và gợi ý rằng Anthropic đang sử dụng "tiếp thị dựa trên nỗi sợ hãi" để định hình rủi ro và biện minh cho việc hạn chế quyền truy cập vào công nghệ.
Altman nói: “Bạn có thể biện minh điều đó bằng nhiều cách khác nhau, và một số là thật, chẳng hạn như sẽ có những lo ngại về an toàn hợp pháp. Nhưng nếu điều bạn muốn là 'chúng tôi cần kiểm soát AI, chỉ riêng chúng tôi, vì chúng tôi là những người đáng tin cậy,' tôi nghĩ tiếp thị dựa trên nỗi sợ hãi có lẽ là cách hiệu quả nhất để biện minh điều đó."
Ngay cả với sự phản đối đó, bất chấp cuộc tranh cãi công khai với Anthropic, chính phủ Hoa Kỳ được cho là đang sử dụng Claude Mythos để quét các mạng lưới mật nhằm tìm kiếm lỗ hổng và kiểm tra khả năng an ninh mạng của mình, theo Axios. Mặc dù ông không đề cập đến cuộc chiến pháp lý đang diễn ra, Amodei cho biết Anthropic "tốt cho đất nước này."
Amodei nói: “Tôi nghĩ quan điểm của Anthropic vẫn luôn như vậy. Về mặt chính trị hóa, đây là điểm tôi đã đề cập về việc tinh gọn, có hệ thống và công bằng với tất cả mọi người. Mục đích của luật pháp và việc không làm mọi thứ một cách tùy tiện là tất cả các công ty, ít nhất là về nguyên tắc – tôi biết thực tế phức tạp hơn – đều được đối xử như nhau, và chúng ta nên hướng tới điều đó ngay cả khi nó không bao giờ diễn ra hoàn hảo như vậy.”
Amodei coi thời điểm hiện tại là một cửa sổ hành động hẹp, cảnh báo rằng tốc độ phản ứng của các tổ chức có thể quyết định liệu rủi ro sẽ leo thang hay được kiểm soát.
Amodei nói: “Đây là một khoảnh khắc nguy hiểm mà nếu chúng ta phản ứng đúng đắn, và tôi nghĩ chúng ta đã bắt đầu thực hiện những bước đi đầu tiên, thì chúng ta có thể có một thế giới tốt đẹp hơn ở phía bên kia. Chỉ có rất nhiều lỗi để tìm ra mà thôi.”
