KT đang tăng tốc xây dựng hệ sinh thái trí tuệ nhân tạo dành cho đại chúng với nền tảng IumInside, hướng tới việc để AI agent có thể hoạt động xuyên suốt nhiều dịch vụ và thực hiện luôn các tác vụ tiếp theo như đặt chỗ, đăng ký hay mua hàng.

Mới đây, KT đã tổ chức một buổi giới thiệu trực tuyến để chia sẻ chiến lược dịch vụ và kế hoạch triển khai chương trình “AI cho mọi người” do Bộ Khoa học và ICT Hàn Quốc thúc đẩy. Trước đó, cơ quan này đã chọn KT, SK Telecom và liên danh do Kakao tham gia làm các đơn vị triển khai dự án.

Theo KT, mục tiêu của hãng là kết nối các dịch vụ có độ phủ người dùng lớn để tạo ra một trải nghiệm AI thống nhất. Qua đó, doanh nghiệp muốn đẩy nhanh việc phổ cập chiến lược AI đại chúng trên quy mô toàn ngành.

Trọng tâm của chiến lược này là IumInside. Nền tảng được xây dựng dựa trên Open Model Context Protocol (MCP), cho phép kết nối hai chiều giữa các dịch vụ bên ngoài và các tính năng AI của IumAgent. KT cho biết cách tiếp cận này sẽ giúp người dùng sử dụng AI ở nhiều điểm chạm khác nhau mà không bị giới hạn bởi kênh truy cập.

Liên danh của KT hiện quy tụ nhiều doanh nghiệp nền tảng và dịch vụ gắn với đời sống hằng ngày như Daum, Musinsa, Zigbang, EBS, Mathpresso và BC Card. Tổng quy mô tiếp cận người dùng của nhóm này vượt 60 triệu. KT cũng cho biết sẽ cung cấp bộ công cụ phát triển phần mềm (SDK) để không chỉ các thành viên trong liên danh mà cả doanh nghiệp bên ngoài cũng có thể áp dụng IumInside, từ đó mở rộng khả năng tiếp cận người dùng.

Ông Kim Jin-hyung, Phó chủ tịch kiêm Giám đốc điều hành phụ trách AX Business Division của KT, cho biết công ty đang hướng tới mô hình dịch vụ AI không bị giới hạn bởi kênh sử dụng. Theo ông, bất kỳ dịch vụ nào tại Hàn Quốc cũng có thể tích hợp IumInside thông qua plugin.

KT cho biết hãng tập trung vào trải nghiệm người dùng, kết nối liền mạch từ khâu cung cấp thông tin đến hành động thực tế. Công ty đồng thời bổ sung khả năng cá nhân hóa dựa trên bộ nhớ, ghi nhớ lịch sử tìm kiếm, truy vấn và hành vi để chủ động đề xuất dịch vụ phù hợp theo từng tình huống sử dụng.

Ví dụ, khi đến kỳ kiểm định ôtô, hệ thống không chỉ gửi nhắc nhở mà còn hỗ trợ đặt lịch kiểm định và thêm lịch vào ứng dụng lịch. Trong lĩnh vực học tập, người dùng có thể tải ảnh bài toán lên để nhận lời giải kèm tài liệu học tập được trực quan hóa. Ở khu vực công, KT dự kiến triển khai AI agent có khả năng chủ động tìm kiếm và thông báo các phúc lợi công phù hợp theo độ tuổi hoặc khu vực cư trú.

Nền tảng đứng sau hệ thống này là TokenFactory của KT. Hệ thống tích hợp nhiều mô hình AI, kết hợp với NPU của Rebellions cùng công nghệ vận hành hạ tầng của Lablup và VESSL AI để phân bổ tài nguyên AI phù hợp với đặc thù từng dịch vụ.

Theo KT, TokenFactory tách riêng giai đoạn Prefill, tức xử lý đầu vào, và Decode, tức tạo phản hồi, qua đó giúp tăng thông lượng token mỗi phút (TPM) khoảng 31%. Công nghệ nén prompt cũng có thể cắt giảm tới 80% số token đầu vào, từ đó nâng hiệu quả khai thác GPU.

KT đặt mục tiêu ra mắt dịch vụ vào tháng 12, đồng thời tiếp tục mở rộng số lượng doanh nghiệp tham gia hệ sinh thái. Hiện đã có thêm nhiều doanh nghiệp, trong đó có các tổ chức tài chính và công ty nội dung lớn, đề nghị tham gia. Về dài hạn, công ty cũng cân nhắc tung ra một số dịch vụ trả phí, bao gồm các mô hình cao cấp dành cho nhóm người dùng chuyên môn.

Ông Kim cho biết KT sẽ giới thiệu dịch vụ AI dành cho đại chúng thông qua một hệ sinh thái AI mở dựa trên IumInside, trong đó bao trùm cả nhóm người dùng yếu thế trong tiếp cận số. Ông nhấn mạnh công ty sẽ cung cấp dịch vụ AI nhanh, chính xác và ổn định nhờ năng lực đa mô hình ở mức cao trong nước cùng nền tảng TokenFactory tích hợp công nghệ riêng của KT.