Anthropic, công ty AI của Mỹ, đã đề xuất với Quốc hội nước này một dự thảo luật cho phép chính phủ đình chỉ việc phát hành các mô hình AI có nguy cơ gây thương vong nghiêm trọng hoặc thiệt hại kinh tế lớn. Tuy nhiên, dự thảo đặt ra ngưỡng can thiệp rất chặt chẽ, nên nhiều khả năng sẽ làm dấy lên tranh luận về hiệu quả quản lý.

Theo Business Insider ngày 19/10 (giờ địa phương), Anthropic gần đây đã chuyển tới các quan chức Quốc hội Mỹ bản dự thảo luật liên bang về quản lý an toàn và bảo mật đối với các mô hình AI tiên tiến.

Trọng tâm của dự thảo là điều kiện để chính phủ có thể ngăn việc phát hành hoặc sử dụng mô hình AI. Theo đó, cơ quan chức năng chỉ được can thiệp khi tồn tại rủi ro có thể dự báo và ở mức cận kề, có khả năng khiến hơn 50 người thiệt mạng hoặc bị thương nặng, hoặc gây thiệt hại từ 1 tỷ USD trở lên.

Phạm vi rủi ro cũng được giới hạn trong một số trường hợp cụ thể, gồm phát triển hoặc phát tán vũ khí sinh học, tấn công mạng, hoặc AI vận hành ngoài tầm kiểm soát của nhà phát triển.

Dự thảo đồng thời đưa ra cơ chế đánh giá an toàn độc lập. Theo đó, các tổ chức đánh giá bên ngoài đã đăng ký với Bộ Thương mại Mỹ sẽ tiến hành kiểm tra định kỳ đối với doanh nghiệp phát triển AI và các mô hình liên quan. Nếu phát hiện rủi ro nghiêm trọng, các tổ chức này phải báo cáo cho Bộ Thương mại trong vòng 72 giờ sau khi hoàn tất đánh giá.

Các đơn vị đánh giá có thể nhận thù lao từ doanh nghiệp AI, nhưng mức chi trả không được điều chỉnh theo kết quả đánh giá.

Khi xác nhận có rủi ro, Bộ Thương mại Mỹ có thể đề nghị tòa án liên bang tại Washington, D.C. ban hành lệnh đình chỉ phát hành mô hình. Dù vậy, dự thảo cũng giới hạn việc các cơ quan liên bang khác đơn phương dừng phát triển, phân phối hoặc sử dụng nội bộ các mô hình AI.

Ngoài ra, dự thảo yêu cầu doanh nghiệp AI xây dựng hệ thống quản trị an toàn, công bố báo cáo minh bạch, bảo vệ người tố giác trong nội bộ và thực hiện nghĩa vụ báo cáo khi xảy ra sự cố nghiêm trọng.

Một điểm có thể gây tranh luận là mối quan hệ giữa quy định liên bang và luật cấp bang. Dự thảo ưu tiên áp dụng luật liên bang trong một số lĩnh vực như công bố rủi ro, đánh giá của bên thứ ba và báo cáo sự cố, làm dấy lên lo ngại rằng thẩm quyền quản lý của các bang có thể bị thu hẹp.

Anthropic cho biết đây là một “đề xuất hợp lý”, phản ánh khung chính sách AI mà công ty đã công bố hồi tháng 6.

Dù vậy, văn bản này hiện chưa phải là dự luật chính thức được trình lên Quốc hội, cũng chưa phải đạo luật đã được thông qua. Tại Mỹ, các cuộc đàm phán về quy định an toàn AI và phạm vi can thiệp của chính phủ vẫn đang tiếp diễn.