Datadog đang mở rộng phạm vi từ observability sang Autonomy và bảo mật, trong bối cảnh doanh nghiệp đẩy nhanh triển khai AI và mức độ phức tạp trong vận hành ngày càng tăng. Công ty cho rằng AI, vận hành CNTT và bảo mật cần được quản lý trên một nền tảng hợp nhất thay vì tách rời.

Phát biểu về chiến lược này, ông Eom Su-chang, Giám đốc Datadog Korea, nhấn mạnh doanh nghiệp hiện cần một giải pháp end-to-end để theo dõi và vận hành toàn bộ môi trường AI. Theo ông, thị trường có nhiều nhà cung cấp làm tốt từng mảng như vận hành CNTT, quản trị AI hay kiểm soát chi phí, nhưng chưa có nhiều đơn vị cung cấp toàn bộ năng lực đó trên một nền tảng hợp nhất cho doanh nghiệp như Datadog.

Ông cho biết nhu cầu sử dụng các dịch vụ AI trả phí trong doanh nghiệp đang tăng mạnh, đồng thời mô hình triển khai cũng dịch chuyển từ một mô hình đơn lẻ sang môi trường đa mô hình. Khi doanh nghiệp cùng lúc vận hành nhiều mô hình và agent như Claude, Copilot hay Cursor, các vấn đề về chi phí, bảo mật và độ tin cậy cũng phát sinh đồng thời.

Theo Datadog, nền tảng của hãng được thiết kế để kết nối các tín hiệu vận hành thu thập từ observability với bảo mật và quản trị AI. Công ty cho biết sẽ cung cấp hỗ trợ bản địa hóa để doanh nghiệp Hàn Quốc xây dựng năng lực vận hành ổn định và khung quản trị phù hợp với tốc độ triển khai AI.

Datadog Korea hiện hợp tác với hơn 26 đối tác, gồm GS Neotek, MegazoneCloud và LG CNS, đồng thời hỗ trợ hơn 1.000 khách hàng nội địa trong các lĩnh vực tài chính, sản xuất, thương mại và game.

Theo công ty, nền tảng observability hợp nhất của Datadog xoay quanh ba trụ cột: tự vận hành, quản trị AI và bảo mật.

Ở trụ cột tự vận hành, Datadog mô tả lộ trình phát triển từ monitoring sang observability, sau đó tiến tới Autonomy. Trong đó, monitoring là giai đoạn theo dõi các chỉ số như mức sử dụng CPU hay tỷ lệ lỗi và phát cảnh báo khi có bất thường. Observability là bước tiếp theo, kết nối log và các chỉ số để xác định nguyên nhân sự cố. Autonomy tiến xa hơn, hướng tới môi trường có thể tự chẩn đoán và tự khắc phục sự cố.

Để hiện thực hóa Autonomy, Datadog đặt Bits AI ở vị trí trung tâm. Ông Eom Su-chang cho biết Bits AI có thể tự phát hiện khi tỷ lệ lỗi vượt ngưỡng, hình thành giả thuyết, kiểm chứng theo từng bước, sau đó đề xuất nguyên nhân gốc và phương án sửa mã.

Theo ông, những tác vụ trước đây kỹ sư phải mất từ 50 phút đến 2 giờ có thể được rút xuống còn khoảng 5 phút. Giải pháp này cũng bao gồm khả năng tự động hóa hạ tầng, tự điều chỉnh tài nguyên bộ nhớ và CPU theo các guardrail đã thiết lập.

Với trụ cột quản trị AI, Datadog chia thành ba mảng gồm khả năng quan sát AI agent, quản lý chi phí và liên kết với chỉ số kinh doanh.

Khả năng quan sát AI agent cho phép doanh nghiệp theo dõi hoạt động bên trong của từng agent. Ông Jeong Young-seok, phụ trách kỹ thuật tại Datadog Korea, cho biết trong kiến trúc đa agent, doanh nghiệp có thể theo dõi theo thời gian thực mỗi agent đang sử dụng LLM nào, mất bao lâu ở từng bước, tiêu tốn bao nhiêu token và phát sinh bao nhiêu chi phí.

Ông cho biết thêm tính năng quản lý chi phí có thể tổng hợp chi phí AI phát sinh từ nhiều tài khoản như Claude, Copilot và Cursor trên một màn hình duy nhất. Nhờ đó, doanh nghiệp có thể theo dõi xu hướng chi phí theo từng nhóm và từng mô hình để đánh giá liệu có cần chuyển sang mô hình tối ưu hơn hay không.

Phần liên kết với chỉ số kinh doanh giúp kết nối dữ liệu vận hành với kết quả kinh doanh thực tế, qua đó hỗ trợ doanh nghiệp phân biệt theo thời gian thực liệu vấn đề phát sinh đến từ hệ thống CNTT hay từ chiến lược kinh doanh.

Bảo mật là một trong những mảng kinh doanh mới mà Datadog đang đẩy mạnh nhằm mở rộng ngoài observability. Công ty thừa nhận tham gia thị trường này khá muộn, nhưng cho biết tốc độ tăng trưởng đang tăng nhanh nhờ đầu tư mạnh trong 5 năm qua.

Theo ông Jeong Young-seok, thông qua AI Guard, một cổng gateway, hệ thống có thể kiểm tra theo thời gian thực các yêu cầu đầu vào và đầu ra để ngăn chặn prompt injection độc hại, rò rỉ dữ liệu nhạy cảm và các yêu cầu vi phạm chính sách.

Ông lấy ví dụ, nếu một agent xử lý hóa đơn bị cài prompt injection nhằm đưa dữ liệu giao dịch ra bên ngoài, hệ thống sẽ phát hiện và chặn ngay từ đầu ra phản hồi.