（GEM）Gradient Episodic Memory for Continual Learning论文笔记

2024-07-06 22:03:05

（GEM）Gradient Episodic Memory for Continual Learning

Abstract

GEM：减轻了遗忘，同时允许有益的知识转移到先前的任务中。

Introduction

大多数监督学习方法假设每个例子（xi，yi）都是一个来自固定概率分布P的同分布的、独立分布的的样本。

给每个例子一个标签t，令每个例子变为（xi，ti，yi），且每个例子都时满足正态分布。

这样学习者不会经历一个例子两次，且是按照顺序进行。

GEM

GEM中主要特征为一个情景记忆Mt，储存了任务t中观察到得例子。

则第k个任务得损失为：

若最小化损失再加上上述公式会导致过拟合得出现，因此将上述公式作为不等式得约束：

可以通过计算之前任务的损失梯度向量之间的角度来诊断损失的增加和建议的更新，因此将约束条件改写为

gk表示当天任务t之前得任务k得损失梯度，以内积得形式判断两个梯度方向是否呈锐角方向更新

建议将梯度g投影到满足所有约束最近的梯度g上，通过求解L2范数找到一个满足所有约束的梯度g替代g进行更新，则上述问题可以转化为：

在这一步，发现只需要将变换g~，令其与先前每一个向量的夹角变为锐角即可，作者将其转化为了2次规划的对偶问题进行了求解：

计算出v后，我们的g~可得：

算法原理图

总结于这两篇博客，感谢两位作者的分享：

Gradient Episodic Memory for Continual Learning 论文阅读+代码解析_编程龙的博客-CSDN博客【论文笔记】Gradient Episodic Memory for Continual Learning_疯狂的小猴子h的博客-CSDN博客

（GEM）Gradient Episodic Memory for Continual Learning论文笔记相关推荐

Gradient Episodic Memory for Continual Learning 论文阅读+代码解析
一. 介绍在开始进行监督学习的时候我们需要收集一个训练集 D t r = { ( x i , y i ) } i = 1 n D_{tr}=\{(x_i,y_i)\}^n_{i=1} Dtr={( ...
【论文笔记】Gradient Episodic Memory for Continual Learning
Gradient Episodic Memory for Continual Learning(用于持续学习的梯度情景记忆) 本篇论文的贡献创新性 Gradient of Episodic Memo ...
Deep Learning论文笔记之（五）CNN卷积神经网络代码理解
Deep Learning论文笔记之(五)CNN卷积神经网络代码理解 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但 ...
Deep Learning论文笔记之（八）Deep Learning最新综述
Deep Learning论文笔记之(八)Deep Learning最新综述 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感觉看完 ...
Deep Learning论文笔记之（七）深度网络高层特征可视化
Deep Learning论文笔记之(七)深度网络高层特征可视化 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感 ...
Deep Learning论文笔记之（六）Multi-Stage多级架构分析
Deep Learning论文笔记之(六)Multi-Stage多级架构分析 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些 ...
Deep Learning论文笔记之（四）CNN卷积神经网络推导和实现
Deep Learning论文笔记之(四)CNN卷积神经网络推导和实现 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文, ...
Deep Learning论文笔记之（三）单层非监督学习网络分析
Deep Learning论文笔记之(三)单层非监督学习网络分析 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看了一些论文,但老感 ...
Deep Learning论文笔记之（二）Sparse Filtering稀疏滤波
Deep Learning论文笔记之(二)Sparse Filtering稀疏滤波 zouxy09@qq.com http://blog.csdn.net/zouxy09 自己平时看 ...

最新文章

热门文章