Demis Hassabis, CEO của Google DeepMind, vừa kêu gọi thành lập một cơ quan tiêu chuẩn quốc tế dành cho AI frontier nhằm chuẩn bị cho thời điểm trí tuệ nhân tạo tổng quát (AGI) xuất hiện.

Trên mạng xã hội X, ông cho biết khi AI tiến gần AGI, mức độ rủi ro cũng gia tăng. Từ đó, ông đề xuất xây dựng một “cơ quan thiết lập tiêu chuẩn cho AI frontier”.

Theo Hassabis, tổ chức này có thể được thiết kế theo mô hình của Cơ quan Quản lý Ngành Tài chính (FINRA) của Mỹ. Đây sẽ là một mô hình hợp tác công - tư, hoạt động dưới sự giám sát của chính phủ liên bang Mỹ, với hội đồng quản trị gồm các chuyên gia kỹ thuật độc lập và đại diện từ cộng đồng mã nguồn mở. Kinh phí vận hành chủ yếu do ngành công nghiệp đóng góp.

Những mô hình đáp ứng ngưỡng tiêu chuẩn của tổ chức sẽ được xếp vào nhóm “frontier”, còn các đơn vị phát triển sẽ được coi là “phòng thí nghiệm AI frontier”. Hassabis cho rằng các bên này nên áp dụng một số thông lệ cơ bản như công bố model card, tăng cường an ninh nội bộ và phân bổ thêm nguồn lực cho nghiên cứu an toàn.

Ở giai đoạn đầu, các phòng thí nghiệm có thể tự nguyện nộp mô hình để thẩm định tối đa 30 ngày trước khi phát hành. Khi hệ thống vận hành ổn định, quy trình này có thể trở thành bắt buộc.

Phạm vi đánh giá sẽ bao gồm an ninh mạng, rủi ro sinh học, khả năng tìm cách vượt qua các cơ chế an toàn, cũng như dấu hiệu của hành vi lừa dối. Các hạng mục đánh giá sẽ được cập nhật định kỳ. Hassabis cũng cho rằng cơ quan thiết lập tiêu chuẩn này cần có năng lực kiểm thử độc lập theo cơ chế không công khai.

Ông nhấn mạnh khuôn khổ nói trên nên áp dụng cho mọi mô hình frontier, bất kể chúng được phát triển ở quốc gia nào hay theo mô hình mở hoặc đóng. Theo ông, nếu Mỹ đi trước, đây có thể trở thành điểm khởi đầu để hình thành một bộ tiêu chuẩn chung ở cấp quốc tế.

Hassabis đánh giá AGI có thể trở thành động lực lớn cho tiến bộ trong khoa học và y học. Tuy nhiên, ông cũng lưu ý rằng ngay cả khi các bài toán kỹ thuật được giải quyết, xã hội vẫn phải đối mặt với những câu hỏi lớn hơn về mô hình kinh tế mới, hệ giá trị và ý nghĩa của cuộc sống.

“Những câu hỏi này không thể chỉ do giới kỹ thuật quyết định; toàn xã hội phải cùng tham gia,” ông nói. Theo Hassabis, khoảng thời gian trước khi AGI xuất hiện cần được tận dụng để định hướng công nghệ phục vụ lợi ích của toàn nhân loại.

Ông cũng cảnh báo rằng các mô hình frontier đã bắt đầu bộc lộ vấn đề về an ninh mạng. Khi năng lực tiếp tục tăng, các rủi ro liên quan đến hạt nhân và sinh học có thể sớm xuất hiện.

“Hiện chúng ta đang bị cuốn vào cạnh tranh thương mại và địa chính trị ngày càng gay gắt, trong khi tốc độ phát triển của AI frontier đang vượt quá tốc độ hiểu biết của chính chúng ta,” Hassabis nói. Ông cho rằng cách tiếp cận phù hợp lúc này là “lạc quan một cách thận trọng”.