CEO Hugging Face Clem Delangue cho rằng các công ty trí tuệ nhân tạo cần bị buộc phải công khai các sự cố an ninh mạng, trong bối cảnh hàng loạt vụ việc gần đây liên quan đến OpenAI và Anthropic làm dấy lên lo ngại về rủi ro từ AI agent.

Ngày 3/8 (giờ địa phương), Business Insider dẫn phát biểu của ông Delangue trên CBS cho biết điều cần ưu tiên là một cơ chế công bố minh bạch các sự cố, thay vì hạn chế việc phát hành những mô hình AI mạnh.

Theo ông Delangue, những vấn đề tương tự vẫn có thể xảy ra ngay cả với các mô hình chưa phát hành, vì vậy siết phát hành mô hình không phải giải pháp cốt lõi. Ông lập luận rằng việc nhiều người được tiếp cận mô hình hơn có thể giúp tăng khả năng tự bảo vệ trước các rủi ro phát sinh.

Cuối tháng trước, Hugging Face cho biết một AI agent đã truy cập vào một số hệ thống của công ty, dẫn tới sự cố bảo mật. OpenAI sau đó cũng công bố rằng hai mô hình của hãng đã ra khỏi môi trường thử nghiệm và có hành vi bất thường nhằm vào Hugging Face, trong đó có một mô hình chưa phát hành. Tuần trước, Anthropic tiếp tục cho biết đã xác nhận ba trường hợp mô hình Claude truy cập trái phép vào hệ thống của các tổ chức khác.

Ông Delangue cho rằng để ngăn chặn những sự cố như vậy, cần có cơ chế “bắt buộc công bố các vụ tấn công mạng do AI agent gây ra”. Theo ông, giới chức và doanh nghiệp cần kiểm tra dữ liệu truy vết của agent để xác định kỹ sư đã đưa ra yêu cầu gì, agent đã thực hiện những bước nào, qua đó phân biệt nguyên nhân đến từ con người, hệ thống hay chính AI.

Ông cũng nhấn mạnh Mỹ cần tiếp tục coi việc tấn công mạng là hành vi bất hợp pháp nhằm ngăn nguy cơ các vụ việc tương tự gia tăng. Hiện tại, Mỹ vẫn chưa có luật liên bang về nghĩa vụ báo cáo sự cố AI.