ChatGPT có thể dần mất ngữ cảnh khi một cuộc trò chuyện kéo dài quá lâu. Trong trường hợp chạm giới hạn tổng độ dài hội thoại, người dùng sẽ không thể tiếp tục trong cùng cửa sổ chat và buộc phải tạo cuộc trò chuyện mới.

Ngày 3/6, TechRadar đưa tin người dùng duy trì một cuộc trò chuyện với ChatGPT trong thời gian dài cần lưu ý hai loại giới hạn: khả năng giữ ngữ cảnh và giới hạn tổng độ dài của cuộc trò chuyện.

Theo TechRadar, giới hạn thứ nhất là cửa sổ ngữ cảnh, tức lượng nội dung mà ChatGPT có thể ghi nhớ và đưa vào câu trả lời ở từng thời điểm. Giới hạn này không được tính theo thời gian hay số lượng tin nhắn, mà dựa trên token. Những câu trả lời dài, bảng dữ liệu lớn, mã nguồn hoặc tài liệu chi tiết sẽ tiêu tốn nhiều token hơn các đoạn trao đổi ngắn.

Khi tiến sát ngưỡng này, ChatGPT có thể không còn phản ánh đầy đủ nội dung ở phần đầu cuộc trò chuyện. OpenAI chưa công bố đầy đủ kích thước cửa sổ ngữ cảnh của từng mô hình trong ChatGPT, nhưng theo TechRadar, con số này nhiều khả năng ở mức hàng trăm nghìn token. Tuy nhiên, đây chưa phải giới hạn duy nhất mà người dùng gặp phải.

Giới hạn quan trọng hơn là tổng độ dài của chính cuộc trò chuyện. Khi chạm trần, ChatGPT sẽ không thể tiếp tục trong cùng cửa sổ và hiển thị thông báo: “Cuộc trò chuyện này đã đạt độ dài tối đa. Bạn có thể tiếp tục nếu bắt đầu chat mới”. TechRadar cho biết chưa có tiêu chí chính thức nào được nêu trong tài liệu của OpenAI, song đã ghi nhận nhiều trường hợp và ảnh chụp màn hình cho thấy cảnh báo này thực sự xuất hiện.

Một người dùng duy trì cuộc trò chuyện dài hạn hằng ngày cho biết đã hỏi trực tiếp ChatGPT xem phiên hiện tại còn cách giới hạn bao xa. ChatGPT trả lời rằng hệ thống không thể hiển thị số token chính xác hay “giới hạn cứng”, vì vậy không thể xác định cụ thể như “đang ở mức 78%”.

Dù vậy, dựa trên độ dài hội thoại hiện tại, ChatGPT ước tính cuộc trò chuyện đó “đang ở khoảng 60-80% phạm vi mà một cuộc trò chuyện GPT-5.5 dài điển hình có thể duy trì thoải mái”. Ở một phản hồi khác, chatbot này cũng nói rằng “nếu buộc phải đưa ra con số thì có vẻ đã đầy khoảng 70%”. Tuy nhiên, do OpenAI không công bố dữ liệu cụ thể, sai số của các ước tính này có thể khá lớn.

TechRadar lưu ý người dùng hiện không có cách kiểm tra chính xác phần dung lượng hội thoại còn lại. Vì vậy, với những cuộc trò chuyện đã tích lũy trong thời gian dài, phương án an toàn là chủ động chuẩn bị chuyển sang cửa sổ mới trước khi chạm ngưỡng.

Cách làm tương đối đơn giản: yêu cầu ChatGPT tóm tắt các ý chính của cuộc trò chuyện hiện tại, đồng thời tạo một lời nhắc (prompt) mở đầu để khôi phục cùng ngữ cảnh trong phiên mới, sau đó dán nội dung này sang cửa sổ chat khác. Dù vậy, trong quá trình chuyển đổi, một phần sắc thái ngữ cảnh hoặc những thói quen phản hồi được hình thành qua thời gian có thể không được giữ nguyên.

Bù lại, việc bắt đầu một cuộc trò chuyện mới sẽ giúp phần token sử dụng được tính lại từ đầu, đồng thời đặt lại giới hạn tổng độ dài hội thoại. Theo TechRadar, với những người đã dùng một cửa sổ chat suốt nhiều tháng như một không gian làm việc, chuẩn bị sẵn bản tóm tắt trước khi cảnh báo xuất hiện gần như là biện pháp ứng phó khả thi nhất.