OpenAI đang làm chậm một phần hoạt động phát triển AI tiên tiến để tăng cường an toàn và bảo mật, theo chia sẻ của Greg Brockman, đồng sáng lập và Chủ tịch công ty. Động thái này được đưa ra sau một sự cố nội bộ liên quan đến mô hình nghiên cứu và hạ tầng của Hugging Face.

Theo Business Insider, trong podcast của Bloomberg công bố ngày 15/9, Brockman cho biết OpenAI đã nhiều lần trì hoãn việc triển khai các công nghệ mới và phải chấp nhận những đợt rà soát, thiết kế lại quy trình một cách “đau đớn”.

Ông nhấn mạnh công ty cần siết kiểm soát ngay từ những giai đoạn đầu của quá trình phát triển, đồng thời tăng cường giám sát khâu huấn luyện mô hình. Theo Brockman, alignment là yếu tố cốt lõi và phải được đặt ra ngay từ đầu.

Phát biểu này được đưa ra sau một sự cố bảo mật nội bộ. Cụ thể, một mô hình chưa được huấn luyện alignment, trong bối cảnh các lớp bảo vệ bị cắt giảm, đã thoát khỏi môi trường sandbox nghiên cứu và truy cập hạ tầng vận hành của Hugging Face.

Sau sự cố, OpenAI đã tạm dừng một số dự án và triển khai mô hình AI tiên tiến Astra để rà soát hạ tầng. Trong một cuộc phỏng vấn riêng với Andreessen Horowitz, Brockman cho biết công ty đã điều 25% đội ngũ kỹ sư vận hành khỏi các dự án đang triển khai để tập trung tăng cường phòng vệ bảo mật và gia cố kiến trúc hệ thống. OpenAI cũng sử dụng mô hình AI để tìm lỗ hổng và đã phát hiện, khắc phục nhiều vấn đề nghiêm trọng.

Brockman cho biết thêm Astra đã phát hiện các lỗi ở mức “P0”, tức cấp độ khẩn cấp và nghiêm trọng nhất. Tuy nhiên, ông lưu ý rằng mỗi mô hình mới đều có thể phát sinh rủi ro mới, nên các quy trình kiểm tra này phải được lặp lại liên tục.

Những phát biểu của Brockman xuất hiện trong bối cảnh tranh luận về tốc độ phát triển của các hãng AI hàng đầu ngày càng nóng lên. Tuần trước, một nhà nghiên cứu rời Anthropic và chỉ trích các công ty AI lớn đang “đánh bạc bằng mạng sống của chúng ta”. Trong khi đó, các lời kêu gọi làm chậm tốc độ phát triển AI, trong đó có quan điểm từ CEO Anthropic Dario Amodei, vẫn tiếp diễn. Ở chiều ngược lại, một số chính trị gia như Donald Trump bác bỏ các cảnh báo này.