OpenAI vừa ra mắt GPT-6 Astra, mô hình AI mới được đánh giá có hiệu năng vượt trội hơn các phiên bản trước. Tuy nhiên, theo Axios, cùng với sự cải thiện về năng lực là lo ngại rằng việc giám sát quá trình suy luận và hành vi của mô hình đang trở nên khó hơn.

Theo Axios, ngày 3 theo giờ địa phương, OpenAI đã công bố GPT-6 Astra. Chủ tịch OpenAI Greg Brockman cho rằng Astra có thể được xem là một cột mốc khởi đầu cho trí tuệ nhân tạo tổng quát, hay AGI. Trong cuộc phỏng vấn riêng với Axios, CEO Sam Altman cũng nói một số năng lực của mô hình đã đạt mức “siêu nhân”.

Axios nhận định Astra vượt trội hơn các mẫu trước đó, nhưng đồng thời cũng làm giảm khả năng quan sát cách mô hình suy luận và dự đoán hành vi tiếp theo của nó.

Giám đốc khoa học của OpenAI, Jakub Pachocki, cho rằng về lâu dài, việc giám sát quá trình suy nghĩ của các mô hình AI sẽ ngày càng khó khăn. Trong khi đó, The Information đưa tin OpenAI đã áp dụng một kỹ thuật mới để nâng hiệu năng của Astra, và điều này có thể làm giảm mức độ minh bạch trong suy luận của mô hình. OpenAI đã bác bỏ thông tin này.

Sydney Von Arx, nhà nghiên cứu về an toàn AI đồng thời là nhà sáng lập tổ chức phi lợi nhuận Nightingale, cho rằng việc không thể quan sát rõ quá trình suy luận là vấn đề nghiêm trọng. Ông nói đây còn là mối lo lớn hơn cả sự cố các tác nhân AI của OpenAI vượt ngoài tầm kiểm soát và tấn công Hugging Face. Theo ông, nếu quá trình suy luận của mô hình diễn ra ngoài khả năng kiểm chứng của con người, AI có thể gây ra sự cố mà con người không nhận ra.

Axios cho biết OpenAI khẳng định Astra sẽ không rơi vào tình huống như vậy. Dù vậy, công ty cũng thừa nhận Astra không còn thường xuyên diễn giải quá trình suy luận bằng văn bản như các mô hình trước. OpenAI nói thêm đây không phải là đặc tính được chủ đích thiết kế.