什么是持续学习？让 AI 在学习新知识时不忘旧能力

持续学习（Continual Learning）研究的是让模型在数据和任务不断到来时持续更新，同时尽量保留原有能力。它更接近真实世界的使用方式：产品、语言、用户行为和业务规则都会变化，模型不可能只训练一次就永久不变。

最大的挑战叫作“灾难性遗忘”。当模型集中学习新任务时，参数为了适应新数据而改变，可能使旧任务的表现明显下降。

为什么不能简单地反复重训？

将所有历史数据和新数据合在一起重新训练，理论上可缓解遗忘，但现实中常受制于数据存储、隐私授权、训练成本和更新频率。某些历史数据也可能已经不应继续使用。

因此，持续学习需要在有限资源与模型稳定性之间寻找平衡：既能吸收新信息，又不让关键旧能力无故退化。

常见缓解方式

回放历史样本

在学习新数据时，混入一小部分具有代表性的旧样本，提醒模型保留既有能力。样本选择、隐私保护和存储策略是这一方法的关键。

约束参数变化

对旧任务重要的参数施加更强约束，避免它们在新训练中被大幅修改。这能降低遗忘，但也可能限制模型适应真正变化的业务。

模块化与任务分离

让不同任务使用部分独立模块或专家网络，减少相互覆盖。代价是架构与部署会更复杂，需要清楚管理版本和路由规则。

线上更新要注意什么？

持续学习不应意味着“模型自动悄悄改写自己”。每次更新都应有数据范围、版本记录、离线测试和回滚方案。关键指标应同时覆盖新数据效果、历史基准和不同人群表现。

当模型面对高风险决策时，更应将持续学习限制在经过审核的更新流程中，避免错误反馈或异常数据被快速吸收并放大。

小结

持续学习让 AI 有机会随环境变化而进步，但也带来遗忘、漂移和治理风险。好的系统需要同时记录它学到了什么、保留了什么，以及在出现问题时如何安全回退。