【阅读笔记】Differentiable plasticity: training plastic neural networks with backpropagation
Differentiable plasticity: training plastic neural networks with backpropagation
作者:
Thomas Miconi/Jeff Clune/Kenneth O. Stanley
Uber AI Labs
{tmiconi,jeffclune,kstanley}@uber.com
读后感
这篇文章是有关元学习的论文,元学习就是学习如何学习的学习。
这篇文章的核心思想是在常规的神经网络的一定的权重基础上加入了可塑性的权重,和前后的神经元是否同时放电有关。
实验的结果是加入了这个机制之后训练速度更快了。
感觉有加入了突触可塑性跟注意力机制有点神似。网络变得有记忆功能,也增加了不少的参数。
文章核心IDEA
Differentiable plasticity:
【阅读笔记】Differentiable plasticity: training plastic neural networks with backpropagation相关推荐
- Differentiable plasticity: training plastic neural networks withbackpropagation
http://proceedings.mlr.press/v80/miconi18a/miconi18a.pdf 文章目录 Abstract Introduction Related work int ...
- 论文阅读笔记:Intriguing properties of neural networks
论文阅读笔记:Intriguing properties of neural networks 深度学习对抗样本的开山之作 要点 以往的观点认为深度神经网络的高层特征中每一个分量描述了一种特质,但是这 ...
- 论文阅读笔记《Meta-Learning with Memory-Augmented Neural Networks》
小样本学习&元学习经典论文整理||持续更新 核心思想 本文提出一种带有记忆增强神经网络(Memory-Augmented Neural Networks,MANN)的元学习算法用于解决小样 ...
- 阅读笔记(Communication-Efficient Learning of Deep Networks from Decentralized Data)
阅读笔记(Communication-Efficient Learning of Deep Networks from Decentralized Data) 动机 联邦平均 实验结果 MINIST优 ...
- 论文阅读笔记:MGAT: Multi-view Graph Attention Networks
论文阅读笔记:MGAT: Multi-view Graph Attention Networks 文章目录 论文阅读笔记:MGAT: Multi-view Graph Attention Networ ...
- cs224w(图机器学习)2021冬季课程学习笔记11 Theory of Graph Neural Networks
诸神缄默不语-个人CSDN博文目录 cs224w(图机器学习)2021冬季课程学习笔记集合 文章目录 1. How Expressive are Graph Neural Networks? 2. D ...
- cs224w(图机器学习)2021冬季课程学习笔记10 Applications of Graph Neural Networks
诸神缄默不语-个人CSDN博文目录 cs224w(图机器学习)2021冬季课程学习笔记集合 文章目录 1. Graph Augmentation for GNNs 1.1 图特征增强Feature A ...
- 笔记[M-SFANet]Encoder-Decoder Based Convolutional Neural Networks with Multi-Scale-Aware Modules...
@[TOC]( [M-SFANet] Encoder-Decoder Based Convolutional Neural Networks with Multi-Scale-Aware Module ...
- 吴恩达深度学习笔记——卷积神经网络(Convolutional Neural Networks)
深度学习笔记导航 前言 传送门 卷积神经网络(Convolutional Neural Networks) 卷积神经网络基础(Foundations of Convolutional Neural N ...
最新文章
- 皮一皮:所以说...哪里的程序猿最能吃辣?
- wangEditor编辑器中解析html图文信息问题(三)
- [School Life - Study] 有哪些每天坚持效果显著的高中学习习惯?
- hdu4662 简单搜索打表
- BZOJ2437 [Noi2011]兔兔与蛋蛋 【博弈论 + 二分图匹配】
- 2020年PMCAFF大咖分享合集(有回放)
- 纪中A组模拟赛总结(2021.7.19)
- 技术这东西,不可不看,不可全看.
- 微软 Small Basic
- nginx apache mysql php 常用编译参数
- 在ASP.NET WebAPI 中使用缓存【Redis】
- Java程序员3个月从月薪6k涨到15k,你知道我是怎么过来的吗?
- 游戏测试永乐大典——服务端架构,游戏服务器架构,游戏数据库设计
- (十三)Thread-Specific Storage(ThreadLocal)模式
- 音乐flac格式如何快速简单的转换为mp3格式
- POX控制器的分析(二)
- ArcGIS 删除背景值(删除特定值的像元点栅格点)
- Ubuntu安装迅雷,让下载变得轻松
- jmeter常用逻辑控制器的使用(如果(if)控制器)
- php微信访问,PHP开发之判断微信浏览器访问
热门文章
- CLion安装激活,主题设置
- 测试人生 | 专科学历入职世界500强企业,​二线城市年薪超30W,这个80后小很赞
- Apache Tiles 学习(二)、Java Web应用中使用Apache Tiles
- android数组如何清空,JavaScript如何清空数组?
- 二项式负分数次幂的展开
- Axure 点图片外区域即隐藏_奔驰V260内饰改装隐藏六座炮筒式仪表盘、后排沙发床、可拆卸小桌板车_搜狐汽车...
- UML设计中的9中图例(简单版)
- Bagging 简述
- Unity Shader 数据精度使用情况 float half fixed
- 网络LETV,ceo生病获关注