Kakao cho biết đã xây dựng bộ nguyên tắc đạo đức AI và khung triển khai mới dành cho AI agent, áp dụng xuyên suốt từ giai đoạn thiết kế dịch vụ đến vận hành. Động thái này diễn ra trong bối cảnh các AI agent có mức độ tự chủ ngày càng cao.

Theo Kakao, tại hội nghị nhà phát triển if(kakao)26 diễn ra ngày 13/10 tại AI Campus ở Yongin, tỉnh Gyeonggi, công ty đã công bố bộ nguyên tắc đạo đức AI mới mang tên SPIRIT, cơ chế triển khai NORMA và checklist đi kèm.

SPIRIT gồm 6 trụ cột: an toàn, quyền riêng tư, tính bao trùm, trách nhiệm, quyền tự chủ của người dùng, cùng tính minh bạch và độ tin cậy.

Theo Kakao, bộ nguyên tắc này được xây dựng trên cơ sở 3 giá trị và 7 nguyên tắc trong “Nguyên tắc đạo đức trí tuệ nhân tạo của Hàn Quốc”, đồng thời được cụ thể hóa để phù hợp với môi trường dịch vụ của doanh nghiệp.

Cơ chế áp dụng các nguyên tắc đạo đức vào dịch vụ được Kakao đặt tên là NORMA. Đây là khung thực thi nhằm quản lý và triển khai những vấn đề đạo đức phức tạp, dựa trên trách nhiệm chung ở cấp độ tổ chức.

Bộ nguyên tắc và hướng dẫn lần này được hoàn thiện vào đầu tháng 10, với sự tham gia của 7 cố vấn bên ngoài thuộc tiểu ban AI & công nghệ đạo đức được thành lập từ tháng 7. Nhóm cố vấn đánh giá mức độ phù hợp với các chuẩn mực trong và ngoài nước, trong khi các bộ phận nội bộ của Kakao như AI Safety, bảo vệ dữ liệu cá nhân, an ninh thông tin và các đơn vị liên quan đến dịch vụ rà soát khung này từ góc độ triển khai thực tế.

Kakao cũng phân loại các rủi ro có thể phát sinh từ AI agent theo 5 nhóm: quyền kiểm soát, mục tiêu, thẩm quyền, nguồn lực tham chiếu và tương tác.

Với từng nhóm rủi ro, công ty gắn kèm các biện pháp kiểm soát cần thiết như giám sát của con người, cơ chế can thiệp khẩn cấp, kiểm soát quyền hạn và bảo vệ dữ liệu. Trên cơ sở đó, “Checklist thực thi đạo đức AI” được thiết kế theo 3 bước: xác định đặc tính dịch vụ, sàng lọc rủi ro ban đầu, sau đó kiểm tra và đánh giá các hạng mục kiểm soát.

Theo kế hoạch, checklist mới sẽ được áp dụng vào các dịch vụ thực tế ngay trong năm nay.

Kakao đồng thời tăng cường quy trình kiểm tra đối với các dịch vụ AI dành cho trẻ em và thanh thiếu niên. Bên cạnh “Checklist bảo vệ trẻ em và thanh thiếu niên trong môi trường số” đã được áp dụng từ năm 2025, công ty dự kiến bổ sung vào checklist mới này các yếu tố rủi ro đặc thù của AI, dựa trên hệ thống phân loại rủi ro trực tuyến cho trẻ em “5Cs” của OECD và UNICEF.

Kakao đã liên tục mở rộng khung đạo đức AI kể từ khi công bố “Hiến chương đạo đức thuật toán” năm 2018. Đến năm 2022, công ty thành lập tiểu ban AI & công nghệ đạo đức với sự tham gia của Kakao và các công ty thành viên chủ chốt, sau đó áp dụng trên toàn tập đoàn bộ “Hướng dẫn AI có trách nhiệm”, nguyên tắc về quyền tự chủ của người dùng và “Checklist cốt lõi cho AI an toàn”.

Ông Kim Se-woong, Chủ tịch tiểu ban AI & công nghệ đạo đức của Kakao, cho biết công ty đã xây dựng được hệ thống rà soát rủi ro vận hành xuyên suốt toàn bộ vòng đời của dịch vụ AI, đồng thời phản ánh cả góc nhìn của nhóm cố vấn bên ngoài lẫn các đơn vị nội bộ. Theo ông, khi mức độ tự chủ của AI tiếp tục tăng lên, Kakao sẽ làm rõ hơn vai trò phán đoán và trách nhiệm của con người, qua đó phát triển các dịch vụ AI để người dùng có thể yên tâm sử dụng.