KT ngày 27/10 công bố Token Factory, nền tảng trí tuệ nhân tạo dành cho doanh nghiệp cho phép lựa chọn nhiều mô hình AI, quản lý mức sử dụng và chi phí trên một hệ thống tập trung. Công ty xem đây là nền tảng chủ lực cho chiến lược chuyển đổi AI (AX), đồng thời là động lực tăng trưởng mới nhằm thúc đẩy phổ cập hạ tầng AI tại Hàn Quốc.

Thông tin được KT đưa ra tại họp báo tổ chức ở tòa nhà Gwanghwamun West, quận Jongno, Seoul. Theo doanh nghiệp, Token Factory tích hợp các chức năng chính gồm lựa chọn mô hình AI, quản trị chi phí và bảo mật.

Phát biểu tại sự kiện, Park Sang-won, lãnh đạo mảng kinh doanh AX của KT, cho biết bài toán quan trọng nhất hiện nay là sử dụng AI hiệu quả và chuyển hóa thành giá trị kinh doanh thực tế. Theo ông, khả năng kết nối AI với dữ liệu và quy trình công việc, cùng năng lực vận hành linh hoạt, sẽ quyết định hiệu quả kinh doanh.

Khởi đầu với 73 mô hình, mục tiêu vượt 500 mô hình vào cuối năm

Token Factory được thiết kế để giúp doanh nghiệp lựa chọn và sử dụng mô hình AI theo mục tiêu công việc, ngân sách và yêu cầu bảo mật. Thay vì phải đăng ký và quản lý riêng lẻ nhiều dịch vụ AI, doanh nghiệp có thể thực hiện toàn bộ quy trình từ chọn mô hình, theo dõi mức sử dụng, quản lý chi phí đến thanh toán trên một nền tảng duy nhất.

KT cho biết Token Factory được xây dựng dựa trên ba giá trị cốt lõi gồm khả năng triển khai, hiệu quả và độ tin cậy. Nền tảng này giúp doanh nghiệp áp dụng nhiều mô hình AI vào công việc dễ dàng hơn, tối ưu lượng token và chi phí, đồng thời tăng cường bảo mật dữ liệu.

Lee Jin-hyung, lãnh đạo bộ phận kinh doanh AX của KT, cho biết Token Factory được phát triển để kết nối nhiều mô hình AI và tối ưu hiệu quả sử dụng. Theo ông, doanh nghiệp có thể theo dõi mức sử dụng của nhiều mô hình tại một nơi và thanh toán hợp nhất bằng won.

Theo kế hoạch, Token Factory sẽ ra mắt ngày 30/10 với tổng cộng 73 mô hình, gồm 7 mô hình do KT cung cấp trên hạ tầng trong nước và 66 mô hình AI toàn cầu.

Nhóm mô hình vận hành trên hạ tầng trong nước gồm Mi-deum K 3.0 của KT, Solar Pro 4 của Upstage và Motif 3 của Motif Technologies. Nền tảng cũng hỗ trợ các mô hình open-weight như Gemma của Google, Nemotron của Nvidia, Kimi của MoonshotAI và GLM của Z.ai. Với nhóm mô hình toàn cầu, Token Factory cung cấp các dòng GPT của OpenAI, Claude của Anthropic, cùng các mô hình từ Mistral AI, DeepSeek, xAI và Alibaba Cloud.

KT cho biết đã ký kết hợp tác với OpenRouter, nền tảng phân phối mô hình AI toàn cầu, nhằm mở rộng nguồn cung mô hình. Công ty đặt mục tiêu nâng số mô hình khả dụng trên Token Factory lên hơn 500 vào cuối năm.

Tự động định tuyến mô hình, giảm chi phí token tối đa 25%

Theo KT, năng lực cạnh tranh cốt lõi của Token Factory nằm ở khả năng tự động lựa chọn mô hình AI và công nghệ tối ưu mức tiêu thụ token. Doanh nghiệp hiện thường phải sử dụng nhiều mô hình AI cho các tác vụ khác nhau, nhưng việc dùng mô hình hiệu năng cao cho các câu hỏi đơn giản hoặc nhập prompt quá dài có thể làm chi phí tăng mạnh.

Để giải quyết bài toán này, KT đã phát triển công nghệ Auto Model Router. Hệ thống sẽ phân tích loại câu hỏi, độ khó, yêu cầu về chất lượng và chi phí để tự động chọn mô hình phù hợp. Người dùng không cần chỉ định mô hình thủ công mà có thể thiết lập mức ưu tiên giữa chất lượng và chi phí. Khi ưu tiên chất lượng, hệ thống sẽ chọn mô hình hiệu năng cao; ngược lại, nếu ưu tiên tiết kiệm, hệ thống sẽ chuyển sang mô hình có chi phí thấp hơn.

KT cho biết Auto Model Router hiện đứng đầu bảng xếp hạng tổng hợp trên RouterArena, nền tảng đánh giá hiệu năng định tuyến mô hình AI toàn cầu. Nền tảng này cũng tích hợp tính năng fallback model, cho phép tự động chuyển sang mô hình dự phòng đã thiết lập trước nếu quá trình xử lý gặp lỗi.

Công ty khẳng định có thể cắt giảm tối đa 25% lượng token nhờ công nghệ nội bộ. Kim Jun-seok, lãnh đạo AI Agentic Lab thuộc Viện Công nghệ Tương lai của KT, cho biết công nghệ nén prompt có thể loại bỏ các nội dung không cần thiết để tiết kiệm khoảng 20% chi phí, trong khi kỹ thuật định tuyến sang mô hình có chi phí thấp hơn nhưng vẫn phù hợp với tác vụ giúp giảm thêm khoảng 5%.

Về bảo mật, KT cho biết chỉ đưa vào nền tảng các mô hình AI đã qua sàng lọc và kiểm chứng, đồng thời không lưu trữ hay sử dụng dữ liệu khách hàng cho mục đích huấn luyện. Công ty cũng áp dụng công nghệ guardrail riêng để phát hiện thông tin cá nhân, dữ liệu nhạy cảm và ngôn từ độc hại trong đầu vào, đồng thời kiểm tra nội dung phản hồi do AI tạo ra.

Đưa công nghệ tính cước viễn thông vào AI, triển khai dịch vụ B2B trước

KT cho biết đã đưa kinh nghiệm tính cước trong lĩnh vực viễn thông vào Token Factory. Công ty mở rộng khái niệm Call Detail Record (CDR) sang môi trường AI dưới tên gọi Token Detail Record (TDR), dùng để ghi nhận chi tiết mô hình AI mà khách hàng sử dụng và lượng token tiêu thụ, từ đó lập hóa đơn hợp nhất.

Ở giai đoạn đầu, dịch vụ sẽ được cung cấp với hai nhóm gói là Standard và Enterprise. Gói Standard áp dụng hình thức tính phí theo mức sử dụng thực tế, chỉ thanh toán lượng token đã dùng và hỗ trợ quyết toán hậu thanh toán. Gói Enterprise dành cho khách hàng doanh nghiệp theo mô hình hậu thanh toán kèm cam kết sử dụng; đồng thời được bổ sung các tính năng như mạng riêng theo yêu cầu, môi trường private và thỏa thuận mức dịch vụ (SLA).

KT sẽ triển khai Token Factory trước theo mô hình B2B. Đến cuối tháng 12, công ty dự kiến mở rộng danh mục mô hình và bổ sung thêm các tính năng quản trị cho doanh nghiệp. Sang tháng 3 năm sau, KT sẽ mở rộng dịch vụ sang nhóm lập trình viên cá nhân và người dùng phổ thông. Khi tiến vào thị trường người dùng cá nhân, công ty cũng cân nhắc triển khai các gói thuê bao.

Ngoài doanh thu từ dịch vụ nền tảng, KT cho biết sẽ đa dạng hóa nguồn thu thông qua phí môi giới mô hình AI và các dịch vụ giá trị gia tăng dành cho doanh nghiệp. Công ty đồng thời sẽ làm việc với các nhà cung cấp mô hình AI để nâng sức cạnh tranh về giá và mở rộng doanh thu từ các tính năng bổ sung như dịch vụ private.

Park Sang-won cho biết KT sẽ lấy Token Factory làm nền tảng để hỗ trợ khách hàng trong quá trình chuyển đổi AI, đồng thời phát triển dịch vụ này thành một nền tảng chủ chốt thúc đẩy tăng trưởng cho hệ sinh thái AI tại Hàn Quốc.