Kakao ngày 13/10 công bố định hướng phát triển AI cá nhân hóa và an toàn, trong đó tách biệt rõ dữ liệu ghi nhớ của người dùng với quyền thực thi của AI agent. Theo công ty, hệ thống chỉ cung cấp ngữ cảnh cần thiết trong phạm vi đã được người dùng đồng ý và chỉ thực hiện tác vụ theo đúng điều kiện được ủy quyền.

Thông tin được Kakao công bố tại sự kiện if(kakao)26 tổ chức ở AI Campus của hãng tại Yongin, tỉnh Gyeonggi. Tại đây, công ty giới thiệu Project Mosaic, cơ chế kiểm chứng an toàn cho AI agent và chiến lược vận hành mô hình AI nội bộ.

Song Jae-ha, Giám đốc Công nghệ của Kakao, nhấn mạnh rằng dữ liệu ghi nhớ có thể là cơ sở để AI đưa ra phán đoán, nhưng không đồng nghĩa với quyền hành động. Theo ông, việc hiểu sở thích của người dùng và việc được phép thực hiện các tác vụ như đặt hàng hay đặt chỗ là hai vấn đề cần tách bạch.

Project Mosaic được Kakao phát triển nhằm duy trì và tái sử dụng ngữ cảnh cần thiết giữa KakaoTalk, Kanana Space, Canvas và nhiều AI agent. Mục tiêu là giảm bớt việc người dùng phải lặp lại từ đầu thông tin về sản phẩm đang xem hoặc công việc đang xử lý dở mỗi khi chuyển sang một dịch vụ hay agent khác.

Kakao cho biết đang xây dựng tiêu chí liên kết và sử dụng dữ liệu dựa trên mục đích thu thập cũng như phạm vi người dùng đã chấp thuận. Hệ thống sẽ tổng hợp thông tin phát sinh trong các dịch vụ thành dữ liệu ghi nhớ, sau đó chỉ chuyển phần được phép chia sẻ tới dịch vụ hoặc agent có nhu cầu sử dụng.

Trong quá trình này, công ty tách riêng thông tin quan sát được với phần diễn giải, đồng thời lưu kèm nguồn và thời điểm phát sinh dữ liệu. Song Jae-ha đưa ra ví dụ: nếu người dùng mua giày trẻ em để làm quà cho cháu, hệ thống không nên mặc định đó là sở thích cá nhân và tiếp tục gợi ý các sản phẩm tương tự về sau. Với những thông tin có thể thay đổi theo thời gian như trạng thái giao hàng hay sở thích, hệ thống cũng phải kiểm tra dữ liệu còn hiệu lực hay không.

“Nếu AI ghi nhớ về tôi, nó cũng phải nhớ rằng tôi có thể thay đổi”, ông nói.

Theo Kakao, phạm vi chia sẻ dữ liệu ghi nhớ sẽ được giới hạn theo sự đồng ý riêng của từng dịch vụ. Nếu người dùng chỉ cho phép dịch vụ A sử dụng dữ liệu này, hệ thống có thể cung cấp cho A, nhưng sẽ không chia sẻ với dịch vụ B nếu chưa có chấp thuận, dù cùng thuộc một người dùng.

Khi người dùng rút lại sự đồng ý đối với dữ liệu gốc hoặc phạm vi sử dụng, hệ thống sẽ ngừng cung cấp thêm dữ liệu ghi nhớ thuộc phạm vi đó cho các yêu cầu phát sinh sau này. Tuy nhiên, cơ chế này không tự động thu hồi những dữ liệu mà dịch vụ khác đã nhận và lưu trước đó.

Song Jae-ha cho biết việc ngăn chia sẻ trong tương lai và việc kiểm soát cách sử dụng dữ liệu đã chuyển cho bên khác là hai vấn đề riêng biệt. Theo ông, bảo vệ lựa chọn của người dùng không chỉ là trách nhiệm của dịch vụ sử dụng dữ liệu mà còn là bài toán của cả nền tảng cung cấp dữ liệu ghi nhớ.

Bên cạnh đó, Kakao cũng nhấn mạnh nguyên tắc không mở rộng quyền thực thi chỉ vì AI agent có thể truy cập dữ liệu ghi nhớ. Công ty cho rằng cần xác định rõ điều kiện người dùng ủy quyền, chẳng hạn giới hạn chi tiêu khi mua hàng, và phạm vi này phải được giữ nguyên ngay cả khi tác vụ được chuyển sang một agent khác.

Ví dụ, trong quá trình đặt hàng, nếu hệ thống nhận được đề xuất đổi sang sản phẩm khác vì món hàng ban đầu đã hết, AI sẽ không tự động thực hiện nếu quyết định đó vượt ra ngoài phạm vi người dùng đã ủy quyền, mà phải yêu cầu xác nhận lại.

Theo Song Jae-ha, nguyên tắc cốt lõi là “thực hiện trong phạm vi được giao, vượt phạm vi thì phải xác nhận”. Ông đồng thời nhấn mạnh ranh giới này không thể được giao hoàn toàn cho mô hình tự phán đoán.

Kakao cho biết kiểm chứng an toàn không chỉ dừng ở câu trả lời cuối cùng của agent. Công ty mô phỏng các tình huống như hết hàng hoặc thay đổi giá trong môi trường thử nghiệm, đồng thời theo dõi toàn bộ quá trình thực thi, bao gồm agent đã gọi công cụ nào và đưa ra quyết định dựa trên cơ sở nào. Lý do là trong một số trường hợp, agent có thể trả lời rằng “chưa đặt hàng”, nhưng nếu trước đó đã gọi API đặt hàng thì hành động bên ngoài thực tế đã diễn ra.

Hệ thống cũng sẽ kiểm tra xem trong yêu cầu của người dùng, dữ liệu ghi nhớ và thông tin hiện tại có chứa chỉ thị trái với mục đích ban đầu hay không. Kế hoạch hành động được tạo từ các dữ liệu này sẽ được rà soát lại trước khi thực thi. Ở tầng dịch vụ, hệ thống tiếp tục xác minh quyền của tài khoản và phạm vi được cấp cho từng tác vụ cụ thể.

Song Jae-ha cho rằng việc đánh giá phải diễn ra ở cả hai chiều: vừa ngăn được các hành động rủi ro, vừa xử lý chính xác các yêu cầu hợp lệ. Theo ông, mục tiêu không phải là giảm rủi ro bằng cách từ chối mọi yêu cầu, mà là cho phép thực hiện các tác vụ được phép trong khi vẫn chặn những hành động vượt phạm vi.

Cùng với đó, Kakao công bố chiến lược vận hành mô hình để cung cấp AI agent cá nhân hóa cho quy mô người dùng lớn. Công ty cho biết với các tác vụ đòi hỏi hiểu ngữ cảnh cá nhân và xử lý nhiều bước, hệ thống phải đồng thời bảo đảm chất lượng phản hồi, tốc độ và hiệu quả chi phí.

Theo Kakao, các yêu cầu có thể xử lý ngay trên smartphone sẽ được ưu tiên chạy bằng mô hình on-device trước khi gửi lên máy chủ. Cách tiếp cận này giúp rút ngắn thời gian phản hồi và giảm phạm vi dữ liệu nhạy cảm phải đưa ra ngoài thiết bị. Với những tác vụ cần thông tin mới nhất, suy luận phức tạp hoặc kết nối với dịch vụ bên ngoài, hệ thống sẽ sử dụng mô hình trên máy chủ.

Trong kiến trúc này, “AI Conductor” có nhiệm vụ chia mục tiêu của người dùng thành từng bước công việc, lựa chọn mô hình và công cụ phù hợp, đồng thời xác định thứ tự thực thi. Kakao cho biết hệ thống sẽ phân bổ mô hình theo độ phức tạp của yêu cầu nhằm giảm các lần gọi mô hình lớn không cần thiết và tối ưu chi phí suy luận.

Noh Byeong-seok, phụ trách mảng foundation model của Kakao, cho biết: “Chúng tôi hướng tới kết quả tốt nhất cho mọi yêu cầu, nhưng không sử dụng mô hình lớn nhất cho mọi yêu cầu”.