Tất cả bài viết Danh sách
AI & Enterprise
Nota tối ưu hóa Kimi K3, giảm tới 50% nhu cầu GPU
Nota cho biết đã tối ưu mô hình Kimi K3 của Moonshot AI, qua đó giảm tới 50% nhu cầu GPU Nvidia B300 cần để vận hành nhưng vẫn duy trì hiệu năng trên nhiều bài benchmark.
Industry
Chip AI on-device của Hàn Quốc vướng nút thắt SDK và compiler
NPU do các công ty fabless và startup Hàn Quốc phát triển đã đạt mức cạnh tranh về hiệu năng, nhưng sự thiếu hụt SDK, compiler và profiler đang khiến nhiều dự án PoC bị dừng lại.
AI & Enterprise
Nota ra mắt dịch vụ tối ưu mô hình AI cho các dòng chip AWS
Nota giới thiệu dịch vụ tối ưu mô hình AI cho các dòng chip AWS như Trainium và Inferentia, kết hợp nén mô hình, chuyển đổi tương thích và tối ưu hiệu năng nhằm giảm chi phí vận hành.
