Lablup, doanh nghiệp phần mềm hạ tầng trí tuệ nhân tạo (AI), ngày 23/10 cho biết đã ký hợp đồng với ShinhanDS để cung cấp Continuum Suite trong dự án triển khai hệ thống quản lý GPU và API cho LLM.

Theo công ty, đây là hợp đồng đầu tiên của Continuum Suite kể từ khi sản phẩm được thương mại hóa. Trong dự án này, Lablup đảm nhiệm phần mềm liên quan đến API.

Continuum Suite là giải pháp quản lý tập trung API cho nhiều mô hình ngôn ngữ lớn (LLM). Bộ sản phẩm gồm Continuum Router, có chức năng phân phối yêu cầu giữa các mô hình và tự động chuyển tuyến khi xảy ra sự cố, cùng Continuum Hub dùng để quản lý tập trung việc cấp API key, thống kê lượng token sử dụng và đối soát chi phí.

Giải pháp này cũng tích hợp các tính năng bảo mật phù hợp với môi trường mạng tách biệt của ngành tài chính. Hệ thống có thể cấp API key theo từng đơn vị và người dùng, đồng thời tổng hợp dữ liệu sử dụng. Nền tảng cũng được thiết kế để từng dịch vụ AI vẫn có thể hoạt động độc lập ngay cả khi hệ thống quản trị trung tâm gặp sự cố.

Lablup cho biết sau lần đầu giới thiệu Continuum tại sự kiện Nvidia GTC 2025 vào tháng 3/2025, công ty đã đẩy mạnh thương mại hóa sản phẩm, tập trung vào các lĩnh vực tài chính và y tế.

CEO Lablup Shin Jeong-gyu cho biết số lượng mô hình càng tăng thì số điểm cần quản lý cũng tăng theo. Ông nói công ty sẽ giúp doanh nghiệp tập trung các đầu mối quản lý ngày càng nhiều lên một nền tảng thông qua Continuum để giải quyết bài toán này.

Ở diễn biến khác, Lablup nhận đăng ký mua cổ phiếu IPO từ nhà đầu tư cá nhân trong hai ngày 22-23/10. Đơn vị bảo lãnh phát hành chính là NH Investment & Securities, và công ty dự kiến niêm yết trên sàn KOSDAQ vào ngày 3/11.