Hiệp hội Công nghệ Thông tin và Truyền thông Hàn Quốc (TTA) ngày 30/3 cho biết đã thành lập nhóm dự án PG507 nhằm xây dựng các tiêu chuẩn về an ninh trí tuệ nhân tạo (AI), với trọng tâm là bảo vệ dữ liệu và nâng độ tin cậy của mô hình AI.

Theo TTA, PG507 sẽ triển khai xây dựng tiêu chuẩn trong nước và quốc tế ở các lĩnh vực gồm công nghệ bảo vệ thông tin cho hệ thống AI, bảo vệ dữ liệu cá nhân trong AI, đánh giá an toàn AI, an ninh cho AI tạo sinh và an ninh cho agentic AI.

TTA cho biết AI hiện không còn dừng ở tự động hóa đơn lẻ mà đang phát triển nhanh, với AI tạo sinh làm trung tâm. Công nghệ này đang được ứng dụng rộng rãi trong nhiều lĩnh vực, từ xe tự lái có khả năng nhận diện và ra quyết định theo thời gian thực, tạo nội dung giáo dục cá nhân hóa đến điều khiển robot thông minh, qua đó mở ra các lĩnh vực mới.

Tuy nhiên, khi AI ngày càng phổ biến, các nguy cơ về an ninh mạng và xâm phạm dữ liệu cá nhân cũng gia tăng. TTA cho biết PG507 sẽ xây dựng các tiêu chuẩn an ninh AI có tính đến những rủi ro mới như đánh cắp mô hình, prompt injection và tấn công đối kháng, đồng thời xem xét khung pháp lý và quy định về AI tại từng quốc gia.

Chủ tịch TTA Son Seung-hyun cho biết nhóm dự án này sẽ góp phần định hình hệ sinh thái tiêu chuẩn, qua đó hỗ trợ phát triển ngành AI và củng cố độ tin cậy của công nghệ. Theo ông, việc phối hợp với các tổ chức tiêu chuẩn hóa AI trong và ngoài nước cũng sẽ tạo nền tảng để đưa những công nghệ thế mạnh của Hàn Quốc vào hệ thống tiêu chuẩn quốc tế.