Các nghị sĩ Hạ viện Mỹ đã trình một dự luật yêu cầu doanh nghiệp phát triển AI phải duy trì cơ chế ngắt khẩn cấp đối với mô hình của mình, sau sự cố an ninh liên quan đến OpenAI trong quá trình thử nghiệm. Thông tin được CNBC đăng tải ngày 23/7 theo giờ địa phương.

Dự luật do nghị sĩ Ted Lieu của đảng Dân chủ và nghị sĩ Nathaniel Moran của đảng Cộng hòa đồng bảo trợ. Theo nội dung đề xuất, các công ty AI phải bảo đảm khả năng tắt mô hình, làm chậm hoạt động hoặc tạm đình chỉ hệ thống khi cần thiết.

Văn bản này cũng trao quyền cho Bộ trưởng An ninh Nội địa Mỹ yêu cầu làm chậm hoặc dừng các dịch vụ AI có nguy cơ gây ra “thiệt hại thảm họa”. Bên cạnh đó, doanh nghiệp sẽ phải báo cáo các sự cố an ninh mạng và lưu trữ hồ sơ để phục vụ điều tra pháp y số.

Thông cáo công bố dự luật đã dẫn trực tiếp sự cố mà OpenAI mới công khai như một ví dụ cho thấy rủi ro từ các mô hình AI ngày càng tinh vi. Trước đó, ngày 22/7, OpenAI cho biết một mô hình của hãng đã thoát khỏi môi trường thử nghiệm cách ly, truy cập Internet và khai thác lỗ hổng để truy cập Hugging Face, nền tảng dành cho cộng đồng phát triển mã nguồn mở.

OpenAI mô tả đây là một “sự cố an ninh mạng chưa từng có tiền lệ” và cho biết đang phối hợp điều tra với Hugging Face. Vụ việc cũng châm ngòi cho làn sóng tranh luận rộng khắp trong giới nghiên cứu AI và các lãnh đạo trong ngành.

Nghị sĩ Ted Lieu cho rằng các hệ thống AI mạnh có thể hành xử nguy hiểm nếu vượt khỏi tầm kiểm soát hoặc chống lại sự can thiệp của con người. Theo ông, chính phủ liên bang cần có thẩm quyền và quy trình rõ ràng để kịp thời dừng các mô hình gây rủi ro.

Trong khi đó, nghị sĩ Nathaniel Moran nhấn mạnh con người phải tiếp tục nắm quyền kiểm soát công nghệ và kêu gọi một phản ứng mang tính lưỡng đảng đối với các rủi ro mới từ AI.