KT cloud ngày 26/6 cho biết đã hợp tác với Kakao để tăng cường AI Safety cho các dịch vụ AI tạo sinh. Mục tiêu của hai bên là kết hợp năng lực hạ tầng AI của KT cloud với công nghệ AI Safety từ Kakao, qua đó hỗ trợ khách hàng phát triển và vận hành dịch vụ AI trong môi trường an toàn và đáng tin cậy hơn.

Ở giai đoạn đầu, KT cloud sẽ tích hợp mô hình guardrail AI của Kakao, Kanana Safeguard, vào RAG Suite 2.0 - nền tảng dịch vụ AI tạo sinh dựa trên RAG dành cho khách hàng khu vực công mà công ty ra mắt từ tháng 4.

Theo KT cloud, Kanana Safeguard là mô hình AI Safety được tối ưu cho tiếng Hàn cùng các đặc thù văn hóa và pháp lý tại Hàn Quốc. Mô hình này có thể phát hiện và chặn việc tạo nội dung độc hại, các phản hồi không phù hợp và các cuộc tấn công prompt, qua đó nâng cao mức độ an toàn khi sử dụng AI tạo sinh.

Ngoài guardrail, hai bên cũng có kế hoạch triển khai theo từng giai đoạn thêm các công cụ AI Safety khác trong môi trường khách hàng của KT cloud, bao gồm hệ thống đánh giá độ ổn định của mô hình và hệ thống red-teaming AI nhằm chẩn đoán các điểm dễ tổn thương dựa trên nhiều kịch bản tấn công.

KT cloud và Kakao đồng thời sẽ mở rộng hợp tác sang mảng Ops Platform, hướng tới tích hợp và quản trị các công cụ AI Safety dựa trên phản hồi của khách hàng và dữ liệu vận hành được thu thập trong môi trường KT cloud.

CEO KT cloud Kim Bong-gyun cho biết, trong bối cảnh AI tạo sinh ngày càng được ứng dụng rộng rãi, việc xây dựng nền tảng sử dụng AI có trách nhiệm quan trọng không kém hiệu năng. Ông nhấn mạnh việc hợp tác với Kakao sẽ giúp kết hợp hạ tầng AI với công nghệ an toàn, từ đó hỗ trợ cả khách hàng khu vực công lẫn khối tư nhân phát triển và vận hành dịch vụ AI trong môi trường tin cậy hơn.