来源:ArXiv AI 2026-05-20 04:00

干扰感知多任务忘却

任务 学习 实例 干扰 忘却
arXiv:2605.19042v1 公告类型:新 摘要:机器去学习的目的是从训练模型中消除指定训练数据的贡献,同时保留剩余数据的性能。现有的工作主要集中在单任务设置上,而现代模型通常在具有共享主干的多任务设置中运行,其中消除对一项任务或实例的监督可能会无意中影响其他任务或实例。我们引入了具有两种设置的多任务取消学习:全任务取消学习,从所有任务中删除目标实例,以及部分任务取消学习,仅从选定的任务中删除监督。我们表明,共享参数耦合了遗忘集和保留集,从而导致对非目标任务的任务级干扰和对其他实例的实例级干扰。为了解决这个问题,我们提出了一种干扰感知框架,它将任务感知梯度投影(限制特定任务子空间内的更新)与实例级梯度正交化(减少遗忘信号和保留信号之间的冲突)相结合。对五个任务的两个多任务计算机视觉基准的实验表明,我们的方法在保持强泛化性的同时实现了有效的忘却,与最强基线相比,在全任务忘却学习中 UIS 降低了 30.3%,在部分任务忘却学习中降低了 52.9%。

相关文章推荐

返回首页