Google Research提出Sleep框架以解决大模型持续学习遗忘问题
热点事件历史事件
Google Research提出Sleep框架以解决大模型持续学习遗忘问题
1 篇报道1 个报道来源15 天前更新
先了解这件事
AI 综述
Google Research 提出了面向大语言模型持续学习的 Sleep 框架,旨在解决模型在持续学习中的灾难性遗忘问题。 该框架借鉴人类大脑在休息时巩固记忆的机制,让模型在活跃交互与离线睡眠两阶段之间交替运行,将脆弱的短期上下文信息转化为稳定的长期参数。
AI 根据报道生成 · 15 天前更新
最新进展10月28日 01:35
Google Research 提出 Sleep 框架:让大语言模型在持续学习中巩固长期记忆报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Google Research精选Google Research 提出 Sleep 框架:让大语言模型在持续学习中巩固长期记忆
Google Research 提出面向大语言模型持续学习的 Sleep 框架,通过让模型在活跃交互与离线睡眠两阶段交替运行,将脆弱的短期上下文信息固化为长期参数以解决灾难性遗忘。