不少用户反映,ChatGPT在同一窗口内进行长时间、多轮次对话后,往往会先出现对早期内容“记不清”的情况;如果对话继续累积,最终还可能因达到长度上限而无法继续。
TechRadar当地时间3日报道称,长期使用同一聊天窗口时,用户实际上会同时受到两类限制影响,分别是上下文窗口上限,以及对话线程长度上限。
首先是上下文窗口。它决定了模型在当前轮回答中,能够读取并利用多少对话内容。这一限制并非按聊天时长或消息条数计算,而是以Token为单位衡量。因此,较长的回答、复杂表格、代码内容以及篇幅较大的文档,通常都会更快消耗上下文容量。
一旦接近这一上限,ChatGPT就可能无法继续稳定参考较早阶段的对话内容,用户感受到的结果就是模型开始“遗忘”前文。报道称,OpenAI并未公开披露ChatGPT各模型的上下文窗口具体规模,但其量级很可能达到数十万Token。
但对用户而言,问题并不止于“遗忘”。更直接的限制来自对话线程本身的长度上限。达到这一阈值后,用户将无法继续在原聊天窗口内发送和推进对话,界面会提示“此对话已达到最大长度;如需继续请开始新聊天”。报道指出,尽管OpenAI尚未给出公开文档说明具体标准,但已有不少用户表示遇到过这一提示,并附上截图作为证明。
报道称,一名每天都会使用长对话的用户曾直接询问ChatGPT,当前聊天距离上限还有多远。ChatGPT回复称,自己无法查看该对话的精确Token数量,也无法获知硬性上限,因此不能给出“已使用78%”这类确定数字。不过,仅从当前线程体量推测,这段对话大致处于一段较长的GPT-5.5聊天的60%至80%区间。
在另一轮回复中,ChatGPT还表示,如果一定要用数字形容,“大约像是已经填满了70%”。不过它也同时强调,由于OpenAI并未公开真实阈值,这类估算本身可能存在较大误差。
报道认为,既然用户无法准确确认剩余空间,那么在长对话积累到一定程度后,较稳妥的做法就是在触及上限前提前准备新聊天窗口。
具体做法并不复杂。用户可以先让ChatGPT总结当前对话的核心内容,并生成一段可在新聊天中延续原有语境的提示词,再将这段内容复制到新的对话窗口中继续使用。报道同时提醒,在迁移过程中,长时间互动中逐步形成的细微语境和偏好,仍可能出现一定程度的丢失。
不过,切换到新聊天后,上下文的Token计算相当于重新开始,对话线程长度上限也会重新计算。TechRadar指出,对于那些把同一聊天窗口当作长期工作空间、连续使用数月的用户来说,与其等到系统弹出警告后再处理,不如提前整理摘要并做好迁移准备,这或许是目前最现实的应对方式。