Naver ngày 8/7 công bố khung an toàn trí tuệ nhân tạo ASF 2.0, đánh dấu việc mở rộng phạm vi quản trị rủi ro AI từ cấp độ mô hình kỹ thuật sang toàn bộ dịch vụ mà người dùng trực tiếp sử dụng.

Đây là phiên bản nâng cấp của framework mà Naver từng giới thiệu tại AI Seoul Summit 2024, được bổ sung theo các xu hướng quản trị AI mới trên toàn cầu. Tại Diễn đàn An toàn AI Seoul tổ chức cùng ngày ở quận Gangnam, Seoul, công ty đã chia sẻ các thành phần cụ thể của hệ thống quản lý an toàn mới.

Theo Naver, ASF 2.0 được xây dựng để phản ánh những thay đổi trong môi trường công nghệ, chính sách và thể chế, trong đó có xu hướng phổ biến của môi trường đa mô hình và việc ban hành Luật cơ bản về AI.

Khung mới không còn chỉ tập trung vào việc đánh giá hiệu năng của từng mô hình riêng lẻ, mà mở rộng sang bối cảnh sử dụng, trường hợp ứng dụng và mức độ tác động. Mục tiêu là quản lý toàn bộ vòng đời dịch vụ, từ giai đoạn ra mắt đến khi vận hành.

Trong đó, Naver áp dụng “hệ thống phân loại rủi ro AI” để nhóm các rủi ro có thể phát sinh trong từng dịch vụ, đồng thời sử dụng “ma trận đánh giá tác động AI” để nhận diện và dự báo rủi ro theo từng lĩnh vực ứng dụng. Trên cơ sở đó, công ty vận hành cơ chế đánh giá và phản hồi liên tục.

Phát biểu tại sự kiện, Song Dae-seop, người phụ trách chính sách an toàn AI tại Naver, cho biết bối cảnh xây dựng ASF 2.0 xuất phát từ việc môi trường công nghệ, dịch vụ, chính sách và thể chế xung quanh AI đang thay đổi nhanh chóng. Theo ông, bài toán hiện nay không còn dừng ở việc bảo đảm an toàn cho một mô hình riêng lẻ, mà là cách thiết kế và vận hành an toàn các dịch vụ kết hợp nhiều mô hình AI, phục vụ hàng chục triệu người dùng.

Để ASF 2.0 được áp dụng đồng bộ trong quy trình triển khai dịch vụ, Naver cũng xây dựng hệ thống thực thi trên toàn công ty mang tên CHEC 2.0. Công ty cho biết tính năng “AI Tab” ra mắt trong tháng 6 đã hoàn tất quy trình kiểm chứng an toàn từ khâu thiết kế đến khi phát hành theo hệ thống này.

Các sản phẩm AI đang vận hành hoặc chuẩn bị ra mắt cũng sẽ tiếp tục được kiểm tra định kỳ.

Song Dae-seop cho biết Naver trước đó đã lần lượt công bố bộ quy tắc đạo đức AI vào năm 2021 và ASF bản beta vào năm 2024, qua đó từng bước hoàn thiện hệ thống an toàn AI phù hợp với khung chính sách trong nước.

Ông nói thêm rằng công ty sẽ tiếp tục tích lũy kinh nghiệm, đồng thời chia sẻ và phát triển các thực tiễn này thông qua hợp tác với giới học thuật, cơ quan hoạch định chính sách, chuyên gia bên ngoài và các tổ chức liên quan.