Quỹ đầu tư mạo hiểm giai đoạn đầu TheVentures cho biết ngày 20/5 đã rót vốn hạt giống vào Out of set, startup phát triển công nghệ on-device AI.

Out of set hiện phát triển các mô hình AI siêu nhẹ, chuyên biệt theo từng lĩnh vực, có thể chạy trực tiếp trên thiết bị mà không cần kết nối Internet. Hướng đi này nhằm khắc phục những hạn chế của AI đám mây như nguy cơ rò rỉ dữ liệu cá nhân, độ trễ mạng, chi phí vận hành cao và rủi ro gián đoạn do sự cố máy chủ.

Lĩnh vực đầu tiên Out of set tập trung là nhận dạng giọng nói và tổng hợp giọng nói. Theo công ty, nhu cầu đối với hai công nghệ này rất lớn, không chỉ trong các lĩnh vực đòi hỏi bảo mật cao như y tế, pháp lý và tài chính, mà còn ở các ngành như smartphone, ôtô và robot.

Phần lớn mô hình on-device AI trên thị trường hiện nay được phát triển bằng cách nén các mô hình AI đám mây cỡ lớn. Cách tiếp cận này khiến quá trình từ phát triển đến đưa vào sản phẩm thực tế có thể kéo dài vài tháng. Out of set cho biết công ty thiết kế mô hình ngay từ đầu cho môi trường vận hành trên thiết bị, nhờ đó có thể đưa vào ứng dụng thực tế ngay mà vẫn bảo đảm hiệu năng.

Kim Hyeong-ju, CEO của Out of set, nhấn mạnh rằng “hiệu năng AI không được quyết định bởi kích thước mô hình, mà bởi dữ liệu và thiết kế kiến trúc”. Ông cho biết công ty sẽ thiết kế công nghệ ngay từ giai đoạn nghiên cứu với mục tiêu triển khai trực tiếp trên thiết bị, qua đó xây dựng tiêu chuẩn cho thị trường on-device AI.