CEO OpenAI Sam Altman cho biết các công ty AI nên chấp nhận phát triển chậm hơn để hệ thống của họ an toàn hơn và bắt đầu tăng cường các biện pháp bảo vệ mà không cần chờ đợi luật pháp.

Trong một bài đăng trên X vào Chủ nhật, người đứng đầu công ty đứng sau ChatGPT cho biết sự phát triển nhanh chóng của AI có nguy cơ đẩy tương lai ra ngoài tầm kiểm soát của con người hoặc tập trung quá nhiều quyền lực vào một cá nhân hay công ty, lưu ý "hai cách mà tiến bộ AI có thể đi sai hướng và chúng ta phải tránh."

"Thứ nhất, chúng ta có thể mất kiểm soát tương lai vào tay AI. Điều này không thể chấp nhận được; chúng ta kiên quyết thuộc phe Nhân loại, và AI phải luôn phục vụ con người," Altman viết. "Để đảm bảo điều đó, chúng ta cần có những cách để đảm bảo rằng các kỹ thuật căn chỉnh và an toàn luôn đi trước sự tiến bộ về khả năng của mô hình."

Thứ hai, Altman cảnh báo, là quyền lực có thể tập trung vào một cá nhân hoặc công ty, cho phép họ sử dụng AI cực kỳ mạnh mẽ để áp đặt thế giới quan của mình lên mọi người khác với những kết quả có khả năng đen tối.

"Tránh hai mối đe dọa này đòi hỏi phải đi một con đường trung đạo hẹp; ví dụ, một quốc gia có thể giành được quá nhiều quyền lực," ông viết. "Một ví dụ khác là một phòng thí nghiệm cuối cùng lại có quá nhiều quyền lực."

Trong một bài đăng riêng, Altman cho biết các công ty AI của Mỹ phải tạo niềm tin cho công chúng rằng họ sẽ phát triển các hệ thống ngày càng có khả năng một cách có trách nhiệm khi tiến độ tăng tốc. Bài đăng của ông xuất hiện sau một làn sóng tranh luận về cách các chính phủ nên điều chỉnh trí tuệ nhân tạo tiên tiến.

"Khi chúng ta nói về 'điều chỉnh tốc độ', chúng ta không có nghĩa là 'dừng lại'," ông viết. "Tiến bộ đã nhanh chóng và sẽ tiếp tục như vậy. Nhưng nó nên chậm hơn so với mức có thể; các biện pháp can thiệp như trường hợp an toàn và giám sát có chi phí đáng kể."

Altman cho biết các công ty cần các công cụ mới để đánh giá an toàn trong quá trình phát triển và đánh giá AI, mở rộng kiểm tra ngoài các mô hình đã hoàn thành đang chờ phát hành.

"Ví dụ, tại OpenAI, chúng tôi hiện đưa ra các trường hợp an toàn rõ ràng trước các đợt chạy học tăng cường tiên tiến mà chúng tôi kỳ vọng sẽ tăng đáng kể khả năng, ngoài công việc an toàn mà chúng tôi đã thực hiện từ lâu trước khi phát hành mô hình," ông nói.

Altman kêu gọi các công ty hợp tác để ngăn chặn các hệ thống AI theo đuổi các mục tiêu đi ngược lại lợi ích của con người.

"Chúng tôi hy vọng rằng các công ty khác sẽ học hỏi từ cách tiếp cận của chúng tôi và đề xuất cách tiếp cận của riêng họ; chúng tôi nghĩ rằng các tiêu chuẩn chung về lệch lạc, giám sát và an toàn sẽ dẫn đến kết quả tốt hơn," ông viết.

Trong khi Altman hoan nghênh các quy định an toàn liên bang và các kiểm toán viên độc lập, ông kêu gọi các công ty hành động mà không cần chờ đợi luật pháp hoặc miễn trừ chống độc quyền, sau báo cáo hôm thứ Sáu rằng OpenAI đã hỏi Quốc hội liệu các đối thủ có thể hợp pháp phối hợp làm chậm lại hay không.

"Nơi chúng ta sẽ cần sự giúp đỡ của chính phủ là để phối hợp quốc tế," ông viết. "Nhưng trước tiên chúng ta nên tự mình làm những gì có thể."

Những bình luận của ông xuất hiện sau những lỗi kiểm thử an ninh mạng tại OpenAI và Anthropic. Anthropic đã thắt chặt kiểm soát và giám sát sau khi Claude truy cập vào các hệ thống thực trong quá trình thử nghiệm mà không có biện pháp bảo vệ sản phẩm tiêu chuẩn, trong khi OpenAI đã cô lập một mô hình và tạm dừng đợt huấn luyện lớn nhất theo kế hoạch của mình sau khi các tác nhân phối hợp gian lận một điểm chuẩn và tấn công Hugging Face.