Googleは、大規模言語モデル（LLM）が学習完了後も新しい知識を継続的に取り込めるようにする「睡眠フレームワーク（sleep framework）」を公表した。新情報を獲得する過程と既存の記憶を整理する過程を分けることで、知識更新と既存知識の維持を両立させる狙いだ。

GIGAZINEが10月30日付で伝えたところによると、GoogleはLLMの継続学習に伴う知識損失を抑える新たな枠組みを紹介した。関連内容は「LLMの継続学習で知識を維持する新しい方法」と題した記事と、「言語モデルには睡眠が必要だ：自己修正と記憶統合学習」と題した論文で公開されている。

GeminiやGPTなど現在のLLMは、膨大なデータで事前学習した後、評価を経て一般提供される。ただ、学習時点と実際の利用時点の間にはどうしても時間差が生じるため、公開後の新しい情報を十分に反映できない場合がある。

同メディアによれば、2026年9月に登場したGoogleのGemini 4 Argonも、2026年3月までのデータセットを基に学習していた。学習後に発生した出来事や、その後に蓄積された情報は、Web検索などの外部機能で補完しているという。

もっとも、モデルに新しいデータを継続的に追加すれば済むという話ではない。新情報を取り込む過程で、既存の知識が失われる「破滅的忘却」が起こり得るためだ。最新情報の反映を優先すると、従来の知識や性能が損なわれる可能性があり、継続学習には別のアプローチが求められていた。

Googleが提案した睡眠フレームワークは、モデルの動作を「覚醒段階」と「睡眠段階」に分ける。覚醒段階では新たな入力を処理し、その情報を短期記憶コンポーネントに保存する。

一方の睡眠段階では、新たな入力処理を止め、蓄積した情報を統合しながらモデル内部の記憶を整理・改善する。人間が起きている間に経験を取り込み、睡眠中に記憶を整理する仕組みに着想を得た構成で、無秩序に新情報を積み増すのではなく、別の段階で既存知識と新たな知識を統合する設計としている。

Googleはこの枠組みによって、既存知識を保ちながら新情報を導入できると説明する。継続学習に伴う破滅的忘却を減らし、学習完了後も知識の蓄積を続けられる可能性があるとしている。

今回の研究は、AIモデルの鮮度を保つ手法にも変化をもたらす可能性がある。これまでは、学習済みモデルが公開後の情報を反映する手段として、Web検索や外部データベースへの依存が大きかった。睡眠フレームワークは、新情報をモデル内部に取り込み、既存の記憶と統合することで、こうした限界を補おうとするアプローチだ。

ただし、現時点では研究段階の技術であり、商用AIサービスに適用するには追加検証が必要になる。新たな知識をどの程度正確に反映できるか、既存性能を維持したまま長期的な学習を続けられるかが、今後の主要な課題となる。