Clion ngày 20/5 cho biết đã hoàn tất dự án phát triển chatbot AI tạo sinh 2.0 cho Thành phố Seoul. Theo doanh nghiệp này, hệ thống đạt độ chính xác phản hồi trên 90 điểm, đồng thời kiểm soát hiệu quả hiện tượng hallucination.

Dự án được triển khai trong khuôn khổ một trong bảy nhiệm vụ chiến lược trọng tâm của “Tầm nhìn AI Seoul”, nhằm thúc đẩy đổi mới hành chính thông qua ứng dụng AI vào dịch vụ công. Với vai trò tổng thầu, Clion đã đảm nhiệm toàn bộ các khâu trong khoảng 6 tháng kể từ tháng 9 năm ngoái, từ xây dựng hạ tầng GPU, tinh chỉnh mô hình dựa trên dữ liệu của Thành phố Seoul đến triển khai dịch vụ AI dựa trên RAG.

Để nâng độ chính xác phản hồi, Clion đã áp dụng giải pháp đánh giá hiệu năng RAG mang tên REX (RAG Evaluation eXpert) do công ty tự phát triển. Giải pháp này được dùng cho cả chatbot hành chính nội bộ vận hành trên mạng nội bộ bảo mật cao và chatbot liên kết với dịch vụ dành cho người dân “Seoul Talk”.

Clion cho biết chatbot 2.0 của Thành phố Seoul đạt độ chính xác phản hồi trên 90 điểm. Công ty nhấn mạnh hệ thống cũng hạn chế hiệu quả hiện tượng hallucination, một trong những thách thức cốt lõi của AI tạo sinh, qua đó củng cố độ tin cậy đối với cả người dân lẫn đội ngũ công chức.

CEO Park Yun-ji của Clion cho biết việc triển khai một dịch vụ AI hiệu năng cao, đủ độ tin cậy cho cả người dân và công chức, với tư cách tổng thầu của dự án đổi mới hành chính AI của Thành phố Seoul, là một dấu mốc có ý nghĩa. Bà kỳ vọng dự án sẽ trở thành tiền đề quan trọng, cho thấy việc kiểm chứng hiệu năng một cách khách quan thông qua các giải pháp chuyên dụng như REX là yếu tố then chốt quyết định thành công của AI trong khu vực công.