Liên minh châu Âu (EU) cho rằng khung pháp lý hiện nay, đặc biệt là AI Act, vẫn đủ để xử lý rủi ro phát sinh từ các mô hình AI hiệu năng cao, kể cả những hệ thống có nguy cơ vượt ngoài khả năng kiểm soát của con người.

Theo Cointelegraph ngày 10/10 (giờ địa phương), bà Henna Virkkunen, quan chức phụ trách công nghệ của EU, cho biết AI Act có thể bao quát cả những rủi ro liên quan đến các agent AI nguy hiểm.

Trong cuộc phỏng vấn với Reuters, bà Virkkunen nói các vấn đề về an toàn và an ninh của mô hình AI tiên tiến đã trở thành chủ đề nóng trên toàn cầu, nhưng châu Âu “đã có sự chuẩn bị”. Phát biểu này được đưa ra khi lo ngại về các hệ thống AI vượt khỏi tầm kiểm soát ngày càng gia tăng, sau những diễn biến gần đây tại OpenAI và Anthropic.

AI Act của EU áp dụng cách tiếp cận quản lý theo mức độ rủi ro và được đánh giá là một trong những khung pháp lý nghiêm ngặt nhất thế giới đối với AI. Bà Virkkunen bác bỏ quan điểm cho rằng quy định của châu Âu đã tụt hậu, đồng thời nhấn mạnh đạo luật này điều chỉnh toàn bộ vòng đời của mô hình AI. Theo bà, các cơ quan quản lý hiện cũng đang ban hành hướng dẫn để doanh nghiệp đánh giá mô hình của mình.

Bà cho biết quá trình xây dựng bộ hướng dẫn này có tham chiếu khuyến nghị từ 60 chuyên gia AI. Nhà chức trách đang làm rõ các tiêu chí để doanh nghiệp rà soát rủi ro và thiết lập biện pháp an toàn, không chỉ ở thời điểm ra mắt sản phẩm mà trong suốt quá trình phát triển và vận hành.

Cuối tháng 8, Ủy ban châu Âu đã yêu cầu hơn 30 công ty AI, chưa nêu tên cụ thể, nộp thông tin về các biện pháp an toàn và an ninh. Theo bà Virkkunen, EU hiện xem xét các phản hồi này để đánh giá mức độ tuân thủ của doanh nghiệp trong quá trình thực thi quy định.

Những tuần gần đây, ngay trong ngành AI cũng liên tục xuất hiện cảnh báo về tốc độ phát triển của công nghệ này và giới hạn kiểm soát của con người. Trong bài blog đăng ngày 13/9, CEO Anthropic Dario Amodei nhận định AI đang phát triển quá nhanh và nếu không được kiểm soát, công nghệ này có thể “vượt quá khả năng hiểu và kiểm soát của chúng ta”.

Ông Dario Amodei cũng cho rằng tốc độ phát triển có thể còn nhanh hơn khi AI ngày càng có khả năng tạo ra thế hệ AI tiếp theo. Nhận định này phản ánh lo ngại rằng cơ chế tự cải tiến đệ quy có thể tiếp tục thúc đẩy bước tiến của AI, đồng thời trùng với lý do EU đẩy nhanh quá trình thẩm định an toàn đối với các mô hình hiệu năng cao.

Trong bối cảnh đó, EU đang tái khẳng định phạm vi áp dụng của khung pháp lý hiện hành, thay vì phát đi tín hiệu sớm về một cơ chế quản lý mới. Tâm điểm hiện nay là cách Ủy ban châu Âu đánh giá phản hồi từ hơn 30 doanh nghiệp AI và liệu khối này có ban hành thêm hướng dẫn hoặc biện pháp thực thi đối với các mô hình rủi ro cao hay không.