Google Research 提出 sleep 框架，让 LLM 在持续学习中巩固知识

Google Research 提出 sleep 框架，让 LLM 在活跃交互与离线记忆巩固之间交替，持续学习新知识并减少灾难性遗忘。框架通过 MoE 参数扩展、GKD 与 RL 模仿学习巩固记忆，再以合成练习样本开展自我改进；在 BABILong 上支持接近完美的 10M tokens 扩展，并在 SQuAD、CPT、AIME 24/25 和 HMMT 25 上取得文中所列结果。