Akamai ngày 28/10 (giờ địa phương) công bố hai dịch vụ mới trên nền tảng đám mây của hãng gồm Akamai Inference và Akamai Agent Sandbox, nhằm hỗ trợ doanh nghiệp xây dựng, vận hành và bảo vệ các ứng dụng AI cũng như AI agent, theo Techzine.

Akamai Inference cung cấp khả năng truy cập được quản lý tới các mô hình open-weight và mô hình tùy biến thông qua API tương thích với OpenAI. Nhờ đó, nhà phát triển có thể sử dụng dịch vụ mà không cần viết lại các ứng dụng hiện có.

Khách hàng có thể lựa chọn mô hình serverless tính phí theo mức sử dụng hoặc triển khai chuyên dụng. Ở thời điểm ra mắt, dịch vụ hỗ trợ 12 mô hình open-weight, từ 8 tỷ đến 280 tỷ tham số, gồm Nvidia Nemotron3 Ultra, gpt-oss-120b của OpenAI và Google Gemma4.

Trong khi đó, Akamai Agent Sandbox là môi trường thực thi cô lập dành cho AI agent, cho phép chạy các đoạn mã do agent tự tạo ra trong một không gian tách biệt với chính agent đó. Nền tảng này được xây dựng trên framework Spin của Fermyon, doanh nghiệp mà Akamai đã mua lại.

Theo Akamai, cơ chế cô lập dựa trên WebAssembly giúp giới hạn tài nguyên tính toán, bộ nhớ, kết nối bên ngoài và quyền hệ thống. Công ty cũng cho biết sẽ bổ sung tính năng kiểm soát những gì agent được phép truy cập, cũng như những gì được phép truy cập vào agent.

Adam Karon, Giám đốc vận hành mảng Akamai Cloud, cho biết công ty triển khai chiến lược hạ tầng AI dựa trên nhận định rằng suy luận AI sẽ trở thành trọng tâm trong mối quan tâm và đầu tư của doanh nghiệp.