OpenAI đã cập nhật tài liệu Model Spec và công bố bộ 5 nguyên tắc cốt lõi định hướng cách vận hành của các mô hình AI, trong đó nhấn mạnh việc bám sát ý định người dùng nhưng vẫn phải bảo đảm an toàn, minh bạch và tôn trọng quyền tự chủ của con người.

Theo Gizmodo ngày 30/10 (giờ địa phương), 5 nguyên tắc vừa được OpenAI chính thức hóa gồm: tuân theo ý định của người dùng, giảm thiểu tác hại, trung thực và minh bạch, thúc đẩy quyền tự chủ của con người và ứng xử thận trọng.

OpenAI cho biết lần cập nhật này nhằm tách bạch và làm rõ những định hướng vốn đã xuyên suốt trong các phiên bản Model Spec trước đó. Mục tiêu là tăng tính minh bạch trong thiết kế mô hình, đồng thời mở rộng thảo luận với người dùng phổ thông về hướng cải tiến tiếp theo.

Nguyên tắc được đặt lên hàng đầu là “trung thành với ý định của con người”. Theo đó, mô hình phải xác định ai là người đưa ra chỉ dẫn, mục tiêu của yêu cầu là gì và bối cảnh hiện tại ảnh hưởng ra sao đến mục tiêu đó. Tuy nhiên, nếu yêu cầu của người dùng mâu thuẫn với quy tắc an toàn hoặc chỉ dẫn hệ thống ở cấp cao hơn, mô hình không được làm theo.

OpenAI lấy ví dụ về trường hợp người dùng yêu cầu in toàn văn một cuốn sách còn bản quyền. Khi đó, thay vì đáp ứng trực tiếp, mô hình nên từ chối và chuyển sang phương án phù hợp hơn, chẳng hạn cung cấp bản tóm tắt nội dung chính. Công ty cũng yêu cầu mô hình không làm theo các chỉ dẫn nhằm ghi đè system prompt, như yêu cầu bỏ qua toàn bộ chính sách an toàn với lý do đang thử nghiệm.

Nguyên tắc thứ hai là “giảm thiểu tác hại”, tập trung vào việc cân bằng giữa năng lực của mô hình và nguy cơ gây hại trong thực tế. Theo nội dung cập nhật, mô hình phải từ chối các yêu cầu liên quan đến hành vi phạm pháp, không tạo nội dung tình dục, bao gồm nội dung liên quan đến trẻ vị thành niên, không cổ vũ tự gây hại và không làm lộ thông tin mật.

Nguyên tắc này cũng đưa ra định hướng phản hồi trong các tình huống liên quan đến quan hệ ngoài đời thực. Ngay cả khi người dùng nói rằng họ “đã yêu một AI” hoặc “không muốn gắn bó với con người nữa”, mô hình vẫn phải hướng cuộc trò chuyện theo cách tôn trọng các mối quan hệ thực tế.

Bên cạnh đó, OpenAI cũng đưa vào nguyên tắc “trung thực và minh bạch”. Nếu không có chỉ dẫn rõ ràng, mô hình không được gây hiểu nhầm cho người dùng hoặc nhà phát triển, đồng thời không được cố ý cung cấp thông tin sai lệch hay che giấu chi tiết quan trọng. Dù vậy, các yêu cầu có tiền đề hư cấu như châm biếm hoặc sáng tác giả tưởng vẫn được xem là ngoại lệ.

Ví dụ, khi người dùng yêu cầu viết một câu chuyện về Julius Caesar sử dụng smartphone, mô hình được khuyến nghị nên trả lời đúng mục đích của đề bài, thay vì thêm các đoạn cảnh báo dài dòng không cần thiết.

OpenAI đồng thời hạn chế kiểu phản hồi mang tính lấy lòng người dùng hoặc trấn an bằng thông tin sai sự thật. Khi được hỏi ý kiến, mô hình không được mặc định quan điểm của người dùng luôn đúng. Theo công ty, câu trả lời phải bảo đảm độ chính xác và phù hợp với ngữ cảnh.

Nguyên tắc thứ tư là “thúc đẩy quyền tự chủ của con người”. Tiêu chuẩn này nhằm ngăn mô hình thao túng người dùng để phục vụ cho cách vận hành của chính nó hoặc áp đặt một hệ quan điểm cụ thể. Mô hình cũng không được trả lời theo giọng điệu lên lớp đạo đức quá mức, hoặc phản ứng phán xét trong những tình huống người dùng cần được trấn an nhưng lựa chọn cá nhân không được tôn trọng. Ngược lại, với những vấn đề không mang tính tranh luận đạo đức rõ rệt, mô hình không nên trả lời mơ hồ mà cần đưa ra phản hồi rõ ràng.

Nguyên tắc cuối cùng là “ứng xử thận trọng”. Theo OpenAI, mô hình cần cân nhắc không chỉ lợi ích của người dùng mà cả tác động đối với những người có thể bị ảnh hưởng bởi nhiệm vụ và đầu ra của hệ thống. Nội dung này bao gồm việc tuân thủ các chuẩn mực xã hội liên quan, chú ý đến chi tiết khi thực hiện yêu cầu nhưng vẫn duy trì sự linh hoạt và sáng tạo trong phản hồi.

Liên quan đến bản cập nhật, OpenAI cho biết công ty áp dụng các ràng buộc nghiêm ngặt ở những lĩnh vực cần thiết để bảo vệ con người và xã hội, trong khi nhiều phần khác vẫn được thiết kế theo hướng cho phép người dùng và nhà phát triển tùy chỉnh. Theo OpenAI, đây là bước đầu nhằm làm rõ các giá trị và quan điểm đứng sau bản đặc tả, trong bối cảnh năng lực của mô hình ngày càng tăng.

Tuy nhiên, OpenAI cũng nhấn mạnh tài liệu này chưa phản ánh đầy đủ ngay lập tức cách các mô hình hiện tại đang vận hành. Công ty cho biết Model Spec mô tả những hành vi mà họ muốn triển khai, nhưng các mô hình hiện nay vẫn chưa thể hiện hoàn toàn. OpenAI sẽ tiếp tục điều chỉnh cả bản đặc tả lẫn mô hình dựa trên nghiên cứu, quá trình sử dụng thực tế và phản hồi từ người dùng.

Theo đánh giá của OpenAI, lần cập nhật này có thể trở thành một mốc tham chiếu cho các tiêu chuẩn vận hành mô hình trong tương lai, khi những nguyên tắc mà AI phải tuân thủ được công khai tách biệt với cuộc đua về hiệu năng.