Google Research·· 15 天前精选AI 评分68
Google Research 提出 Sleep 框架:让大语言模型在持续学习中巩固长期记忆
The sleep framework: A new way for LLMs to retain knowledge in continual learning
AI 导读
Google Research 提出面向大语言模型持续学习的 Sleep 框架,通过让模型在活跃交互与离线睡眠两阶段交替运行,将脆弱的短期上下文信息固化为长期参数以解决灾难性遗忘。
推荐理由
该研究将人脑睡眠巩固机制引入模型训练,为解决大语言模型部署后持续学习中的灾难性遗忘提供了可行路径。
来源:Google Research · research.google