KAIST cho biết nhóm nghiên cứu do giáo sư Lee Sang-wan, Khoa Khoa học não và nhận thức, dẫn dắt đã phối hợp với Microsoft Research Asia phát triển một công nghệ giao diện não - máy tính (BCI) có khả năng giúp AI nhận diện ý định của con người qua sóng não và tự điều chỉnh hành vi theo thời gian thực.

Công nghệ mới mang tên “căn chỉnh giá trị thần kinh” (Neural Value Alignment - NVA). Điểm khác biệt của phương pháp này là AI không chỉ suy đoán ý định từ lời nói, hành động hay cử chỉ bên ngoài, mà còn khai thác trực tiếp tín hiệu nhận thức từ não bộ. Theo nhóm nghiên cứu, cùng một hành vi có thể gắn với những mục tiêu khác nhau, nên chỉ dựa vào biểu hiện bên ngoài thường không đủ để AI hiểu chính xác điều người dùng thực sự muốn.

Nhóm nghiên cứu tập trung vào “lỗi dự đoán” xuất hiện trong não khi con người gặp một tình huống khác với kỳ vọng. Từ đó, họ chia tín hiệu này thành hai loại: “lỗi dự đoán phần thưởng” (Reward Prediction Error - RPE), xuất hiện khi AI hiểu sai mục tiêu của con người; và “lỗi dự đoán trạng thái” (State Prediction Error - SPE), xuất hiện khi mục tiêu là đúng nhưng cách hoặc quá trình thực hiện lại không như mong đợi.

Trong quá trình theo dõi AI thực hiện nhiệm vụ, nhóm đã đo tín hiệu điện não đồ (EEG) của người quan sát theo thời gian thực. Kết quả cho thấy tín hiệu EEG thay đổi rõ rệt tùy theo việc AI hiểu sai mục tiêu hay chỉ thực hiện sai cách. Nhóm cũng xác nhận sự tồn tại của một mẫu EEG đặc trưng khi cả hai loại lỗi xảy ra đồng thời.

Dựa trên dữ liệu này, các nhà nghiên cứu tiếp tục ứng dụng deep learning để phát triển kỹ thuật phân biệt cách con người tiếp nhận hành vi của AI chỉ từ tín hiệu EEG. Nhờ đó, ngay cả khi người dùng không trực tiếp chỉ ra lỗi, AI vẫn có thể nhận biết mình đang hiểu sai mục tiêu hay đang hành động sai cách.

Nhóm cũng đề xuất một thuật toán “phối hợp người - AI dựa trên căn chỉnh giá trị thần kinh”, cho phép truyền tín hiệu đọc từ EEG sang hệ thống AI trong thời gian thực để điều chỉnh hành vi. Khi phát hiện SPE, AI hiểu rằng mục tiêu vẫn đúng nhưng cách thực hiện chưa phù hợp và sẽ tự điều chỉnh. Khi phát hiện RPE, AI xác định rằng mình đã hiểu sai mục tiêu và sẽ tìm lại mục tiêu mà người dùng thực sự mong muốn.

Trong mô phỏng, phương pháp này cho thấy khả năng thích nghi với thay đổi ý định nhanh hơn các cách tiếp cận hiện có, ngay cả khi mục tiêu của con người thay đổi đột ngột hoặc một phần tín hiệu bị thiếu. Nhóm nghiên cứu kỳ vọng công nghệ có thể được ứng dụng cho robot AI vật lý để hiểu ý định người dùng và điều chỉnh hành động, hoặc cho xe tự hành nhằm phản ánh tốt hơn phán đoán của tài xế.

Giáo sư Lee Sang-wan cho biết ý nghĩa của nghiên cứu nằm ở chỗ AI có thể vượt ra khỏi cách suy đoán ý định chỉ dựa trên kết quả hành động quan sát được, để trực tiếp khai thác tín hiệu nhận thức trong não bộ phục vụ quá trình phối hợp giữa con người và AI.

Nghiên cứu có sự tham gia của nghiên cứu sinh tiến sĩ Seo Heun, Khoa Khoa học não và nhận thức, KAIST, với vai trò tác giả thứ nhất. Kết quả nghiên cứu đã được công bố trực tuyến trên tạp chí quốc tế IEEE Transactions on Cybernetics vào tháng 8.