Nota, công ty phát triển công nghệ nén và tối ưu mô hình trí tuệ nhân tạo (AI), ngày 7/7 đã ra mắt dịch vụ tinh chỉnh (tuning) nhằm giúp khách hàng nén và tối ưu mô hình AI cho các dòng chip do Amazon Web Services (AWS) tự phát triển.

Là đối tác được AWS chứng nhận, Nota cung cấp dịch vụ nén và tối ưu mô hình phù hợp với phần cứng AI của AWS, trong đó có Trainium và Inferentia. Công ty cho biết sẽ sử dụng Netspresso, nền tảng nén và triển khai mô hình do Nota phát triển, để cung cấp dịch vụ này.

Theo Nota, Netspresso có thể giúp giảm kích thước mô hình AI hơn 90% mà vẫn giữ được độ chính xác.

Dịch vụ bao gồm các bước đánh giá và chẩn đoán kỹ thuật, chuyển đổi và nén mô hình, cùng tối ưu hiệu năng.

Theo Nota, dịch vụ này hướng tới các doanh nghiệp đang thiếu nhân sự chuyên về tối ưu AI. Công ty nhấn mạnh việc tinh chỉnh mô hình theo kiến trúc chip AI của AWS có thể giúp tối ưu chi phí và cải thiện hiệu năng suy luận.

CEO Chae Myung-soo cho biết chip AI của AWS có lợi thế về hiệu quả chi phí. Ông nói Nota sẽ hỗ trợ khách hàng tinh chỉnh mô hình để khai thác tối đa năng lực của chip AWS, qua đó nâng cao hiệu quả tối ưu chi phí trong quá trình vận hành.