Kakao ngày 29/9 cho biết đã hợp tác với Viện Nghiên cứu An toàn AI để xây dựng khung đánh giá nhằm kiểm chứng độ an toàn của các mô hình AI và AI agent do hãng phát triển.

Theo Kakao, hai bên đã ký biên bản ghi nhớ (MOU) hôm 28/9 về hợp tác đánh giá an toàn AI và thiết lập khung đánh giá chung.

Trong khuôn khổ hợp tác, phạm vi đánh giá sẽ được mở rộng theo từng giai đoạn, từ mô hình ngôn ngữ sang mô hình ngôn ngữ đa phương thức và AI agent. Về dài hạn, hai bên đặt mục tiêu cùng phát triển công cụ đánh giá chung để kiểm chứng độ an toàn của mô hình và agent.

Kakao sẽ cung cấp các mô hình AI và AI agent thuộc diện đánh giá, đồng thời hỗ trợ hạ tầng phục vụ quá trình đánh giá và phát triển công cụ. Phía Viện Nghiên cứu An toàn AI sẽ trực tiếp triển khai đánh giá và hoàn thiện phương pháp luận.

Kết quả đánh giá sẽ được hai bên cùng rà soát trước khi thống nhất phạm vi công bố.

Chương trình hợp tác được triển khai theo 3 giai đoạn. Ở giai đoạn đầu, hai bên sẽ đánh giá an toàn đối với mô hình ngôn ngữ trước và sau khi phát hành. Sau đó, phạm vi sẽ được mở rộng sang mô hình ngôn ngữ đa phương thức và AI agent. Ở giai đoạn cuối, hai bên sẽ đồng phát triển công cụ đánh giá an toàn có thể tái sử dụng.

Trước đó, vào năm ngoái, Kakao và Viện Nghiên cứu An toàn AI từng phối hợp đánh giá an toàn cho mô hình ngôn ngữ nội bộ của Kakao mang tên Kanana-1.5-9.8B.

Kim Se-woong, phụ trách AI Synergy của Kakao, cho biết hợp tác lần này sẽ giúp công ty áp dụng khung kiểm chứng an toàn khách quan và chặt chẽ hơn cho các mô hình AI. Ông nói thêm Kakao sẽ tiếp tục nâng cấp mô hình và dịch vụ trên nền tảng an toàn và độ tin cậy.

Trong khi đó, Kim Myung-joo, Giám đốc Viện Nghiên cứu An toàn AI, nhấn mạnh rằng khi công nghệ AI phát triển nhanh, việc chủ động nhận diện và đánh giá rủi ro tiềm ẩn ngày càng trở nên quan trọng. Ông cho biết viện sẽ cùng Kakao xây dựng khung đánh giá an toàn AI phù hợp với các tiêu chuẩn toàn cầu.