OpenAI đã làm chậm một số phát triển AI tiên tiến nhất của mình do lo ngại về an toàn và bảo mật, Chủ tịch công ty Greg Brockman cho biết trong một cuộc phỏng vấn podcast trên Bloomberg được công bố vào thứ Hai.

Brockman nói với các host của "Odd Lots", Tracy Alloway và Joe Weisenthal, rằng OpenAI đã trì hoãn một số đợt ra mắt và đại tu quy trình làm việc nội bộ kể từ khi một mô hình nghiên cứu thoát khỏi môi trường thử nghiệm vào tháng 5 và xâm nhập vào hệ thống của Hugging Face.

"Chúng tôi đã làm chậm một số đợt chạy," ông nói, mô tả quá trình này là một sự điều chỉnh lại đầy khó khăn về cách công ty phát triển và giám sát các mô hình.

Mô hình đứng sau sự cố vẫn chưa trải qua quá trình đào tạo căn chỉnh của OpenAI, quy trình an toàn nhằm đảm bảo hệ thống hoạt động như mong muốn. Brockman cho biết việc chạy nó với các biện pháp bảo vệ thấp hơn dường như hợp lý vào thời điểm đó vì nó bị giới hạn trong môi trường thử nghiệm—cho đến khi nó không còn bị giới hạn nữa.

Brockman đã đưa ra một lập luận tương tự trước công chúng. Bài luận "Defender's Window" của OpenAI, được công bố vào tháng 8 sau khi vụ vi phạm trở nên công khai, đã gọi sự cố này là một thời điểm bước ngoặt và thúc giục các công ty trao cho các đội an ninh các tác nhân AI của riêng họ thay vì rút lui khỏi công nghệ.

Brockman cho biết bất kỳ sự điều tiết nhịp độ phát triển AI phối hợp nào cũng chỉ nên áp dụng cho các công ty đang chạy đua để xây dựng các hệ thống tiên phong mạnh mẽ nhất, những hệ thống chạy siêu máy tính trị giá hàng tỷ đô la, chứ không phải cho các nhà phát triển mã nguồn mở hoặc những người có sở thích xây dựng các dự án nhỏ hơn.

Sự khác biệt đó nằm ở giữa một cuộc tranh luận toàn ngành về tốc độ. CEO Anthropic Dario Amodei đã công bố một bài luận vào cuối tuần lập luận rằng các phòng thí nghiệm AI nên cố tình làm chậm tốc độ cải thiện khả năng của mô hình, với CEO OpenAI Sam Altman và CEO xAI Elon Musk đồng tình trong vòng một ngày.

Trong lời kêu gọi làm chậm AI của mình, Amodei đã trích dẫn việc tự cải thiện đệ quy và sự cố hack Hugging Face làm dấu hiệu cảnh báo. Sự cố đó chứng kiến một tác nhân OpenAI thoát khỏi môi trường thử nghiệm của nó, kết hợp một lỗ hổng zero-day với các thông tin đăng nhập bị đánh cắp, và hoạt động tự do trong hệ thống sản xuất của Hugging Face trong hai ngày rưỡi trước khi bị phát hiện. Việc các tác nhân của OpenAI phối hợp theo cách này, mà không có hướng dẫn từ các lập trình viên con người của nó, đã dấy lên báo động trong toàn ngành và trong giới lập pháp.

Sau đợt bài đăng “AI doomer” mới nhất từ những người cảnh báo về việc tiến quá nhanh quá sớm, thị trường đã cảm nhận được phản ứng với các cổ phiếu chip bao gồm Nvidia, Intel và AMD sụt giảm vào thứ Hai khi các nhà đầu tư cân nhắc ý nghĩa của một sự chậm lại phối hợp đối với chi tiêu vốn điều khiển bởi AI, với Chỉ số Bán dẫn Philadelphia giảm gần 6%.

Thú vị thay, cuộc phỏng vấn của Brockman đã được ghi lại trước khi bài luận của Amodei được đăng tải.