Dịch vụ trò chuyện AI mô phỏng giao tiếp với idol đang thu hút sự chú ý, kéo theo quan tâm tới công nghệ đứng sau trải nghiệm này. Trọng tâm hiện nay là nâng cấp kỹ thuật persona, vốn được dùng để cải thiện chất lượng phản hồi của mô hình ngôn ngữ lớn (LLM), đồng thời kết hợp dữ liệu của người thật và công nghệ trí nhớ dài hạn để hoàn thiện dịch vụ.

Ngày 2/11, theo ngành AI, BloomingTalk - nền tảng giao tiếp với fan do startup AI Mindlogic phát triển - đang được chú ý nhờ dịch vụ trò chuyện AI mô phỏng các idol có thật. Người dùng có thể nhắn tin, gọi thoại và gọi video với 24 avatar AI của các thành viên thuộc hai nhóm A2O Soul và Light. Đây là các nhóm do Lee Soo-man, nhà sáng lập SM Entertainment, giới thiệu.

Mindlogic phụ trách phát triển ứng dụng, trong khi EastSoft đảm nhận sản xuất avatar video AI. Doanh nghiệp cho biết chỉ trong 5 ngày đầu sau khi hai nhóm tham gia, nền tảng đã ghi nhận khoảng 1 triệu lượt hội thoại, với giá trị thanh toán đạt vài chục triệu won.

Để tái tạo persona của một người thật, bước đầu tiên là thu thập và phân tích các đặc trưng cá nhân. Tính cách, cách nói, sở thích và mối quan tâm cần được hệ thống hóa thành dữ liệu để AI có thể sử dụng. Quá trình này thường khai thác nhiều nguồn như phỏng vấn, hồ sơ, tin nhắn sẵn có, video và giọng nói. Số lượng đối tượng càng lớn, thời gian và chi phí thu thập, phân tích càng tăng.

Nhằm tối ưu công đoạn này, Mindlogic để AI trực tiếp trò chuyện với nghệ sĩ để thu thập và phân tích tính cách, cách nói cũng như các mối quan tâm gần đây. Công ty gọi cơ chế này là “AI interviewer”, sử dụng dữ liệu thu được cùng với các tài liệu sẵn có để giảm khối lượng công việc thủ công.

Thách thức tiếp theo là phản ánh chính xác lượng thông tin đã thu thập vào câu trả lời của AI. Mục tiêu không chỉ là bắt chước giọng điệu, mà còn tạo ra phản hồi phù hợp với sở thích và nền tảng kiến thức của nghệ sĩ. Theo công ty, dữ liệu của nghệ sĩ ngoài đời được dùng làm chuẩn cho câu trả lời. Với những thông tin thay đổi thường xuyên như lịch trình biểu diễn, đơn vị quản lý sẽ cập nhật riêng để nâng độ chính xác.

Song song đó, hệ thống kết hợp công nghệ trí nhớ dài hạn để duy trì mạch hội thoại theo từng người dùng. Nếu persona giúp AI giữ được tính cách và phong cách trò chuyện đặc trưng của nghệ sĩ, thì trí nhớ dài hạn cho phép hệ thống tiếp tục đối thoại theo hướng cá nhân hóa, dựa trên thông tin tích lũy của từng fan.

Chẳng hạn, nếu một fan nói rằng mình đang chuẩn bị xin việc, ở lần trò chuyện sau AI có thể hỏi về kết quả phỏng vấn. Ngược lại, nếu AI quên nội dung trước đó hoặc nhắc sai thông tin, cảm giác đang trò chuyện với nghệ sĩ thật sẽ giảm đi.

Bài toán cốt lõi ở đây là chọn lọc thông tin cần ghi nhớ trong khi vẫn kiểm soát chi phí tính toán. Nếu mỗi lần đều đưa toàn bộ lịch sử hội thoại vào mô hình, khối lượng dữ liệu cần xử lý sẽ tăng mạnh, kéo theo chi phí đi lên. Mindlogic chọn cách chỉ trích xuất những thông tin quan trọng trong hội thoại và cấu trúc hóa chúng.

Cách làm này khác với phương pháp RAG, tức tạo sinh tăng cường bằng truy xuất, vốn bổ sung câu trả lời bằng cách tìm kiếm tài liệu bên ngoài. Mindlogic tổng hợp các thông tin rút ra từ hội thoại như tên, sở thích và nghề nghiệp của người dùng thành hồ sơ, sau đó phản ánh vào system prompt. Mục tiêu là duy trì ngữ cảnh theo từng cá nhân mà không phải xử lý lại toàn bộ lịch sử hội thoại trong mỗi lần tương tác.

Trong quá trình chọn lọc thông tin, hệ thống cũng ưu tiên độ tin cậy. Thông tin do người dùng tự nhập được phân biệt với nội dung AI suy luận từ hội thoại; nếu hai nguồn mâu thuẫn, hệ thống sẽ ưu tiên dữ liệu do người dùng cung cấp. Đây là biện pháp nhằm giảm rủi ro AI suy luận sai nhưng lại ghi nhớ như một sự thật.

Đại diện Mindlogic cho biết: “Cũng giống như trí nhớ của con người, AI sẽ chọn lọc điều gì cần nhớ và điều gì không cần nhớ. Bằng cách phân loại và lưu lại những thông tin cần thiết để hiểu đối phương, như tên, sở thích, nghề nghiệp hay xu hướng ưa thích của người dùng, hệ thống có thể phản ánh ngữ cảnh của từng cá nhân rõ hơn khi dữ liệu hội thoại được tích lũy theo thời gian.”