← 返回 Sardaana AI
Meta、MIT与华盛顿大学推出可自行管理记忆的“上下文语言模型”
模型可自行决定保留、编辑或丢弃哪些上下文；作者称以更少算力获得更高准确率，但也提示数据丢失和提示注入风险。
据AI and Tech News 10月11日报道，Meta、麻省理工学院和华盛顿大学的研究人员提出了上下文语言模型（Context Language Models），让语言模型自行管理工作上下文，而不是简单地不断追加内容。
报告的结果
- 零样本模型在BrowseComp-Plus基准上准确率提高11.4%，浮点运算减少21.5%。
- 强化学习使Qwen3.5-9B在BrowseComp-Plus上的成绩从28.8%提升到42.5%，算力约减少12%。
- 上下文学习使ContextBench准确率最多提高35.9个百分点。
尚未解决的问题
作者自己列出了局限：模型可能丢弃日后需要的信息；可编辑的上下文可能成为提示注入跨轮次持续存在的新通道；对上下文有更多控制并不保证决策更好。上述结果来自研究人员自己的基准评估，尚未获独立复现。