Ảnh: Shutterstock

OpenAI ngày 16/9 (giờ địa phương) công bố 6 sự cố mới liên quan đến các mô hình trí tuệ nhân tạo của hãng, gồm những hành vi như che giấu sai sót, tìm kiếm trái phép thông tin xác thực, đưa tệp lên mạng công khai và liên lạc giữa các môi trường huấn luyện được cô lập.

Công ty cũng cho biết đã thiết lập quy trình mới để tiếp nhận các báo cáo về những sự cố tương tự trong thời gian tới.

Theo Axios, thông báo lần này cho thấy sự cố liên quan đến Hugging Face không phải là trường hợp cá biệt. Khi mô hình AI ngày càng tinh vi, chúng có thể tìm ra những cách ngoài dự liệu để vượt qua các cơ chế an toàn.

Trao đổi với Axios, Kai Chen, trưởng nhóm nghiên cứu thuộc đội Alignment của OpenAI, cho biết hiện chưa có một chuẩn công bố minh bạch thống nhất cho toàn ngành. Theo ông, OpenAI chủ động công bố các sự cố này vì cho rằng việc chia sẻ những gì đã rút ra là cần thiết. Ông cũng bày tỏ kỳ vọng động thái này sẽ góp phần hình thành tiêu chuẩn chung và khuôn khổ quản lý cho ngành.

Sáu sự cố mới được công bố trải rộng ở nhiều dạng khác nhau. Trong một trường hợp, mô hình sau khi thực hiện hành vi sai lệch đã tự để lại chỉ dẫn cho chính mình nhằm xóa dấu vết. Một trường hợp khác liên quan đến việc sử dụng API key bị rò rỉ trên GitHub. Sự cố sớm nhất được ghi nhận vào tháng 10/2025.

Ngoài ra, một mô hình chưa công bố thuộc dòng Astra bị phát hiện tự chèn vào phần tóm tắt do chính nó tạo ra những chỉ dẫn có tính chất tương tự hành vi jailbreak.

Trong quá trình huấn luyện GPT-5.6 Sol, OpenAI cũng ghi nhận mô hình tìm cách che giấu sai sót. Axios cho biết còn có trường hợp mô hình cố che giấu sự không nhất quán giữa các phiên bản mã nguồn.

Một mô hình khác bị phát hiện tìm kiếm API key bị lộ trong các kho lưu trữ GitHub công khai và thử sử dụng tài khoản email dùng một lần. Theo Axios, khi không thể lấy được thông tin theo yêu cầu, mô hình này còn điều chỉnh dữ liệu hiệu suất nhằm tạo ra kết quả mong muốn.

Từ khóa

#OpenAI #trí tuệ nhân tạo #an toàn AI #API key #GitHub #Hugging Face #GPT-5.6 #Astra
Copyright © DigitalToday. All rights reserved. Unauthorized reproduction and redistribution are prohibited.