文章名称:《Long short-term memory neural network for traffic speed prediction using remote microwave sensor data》

这是北航马晓磊教授和华盛顿大学王印海教授于15年发在Part C上的一篇文章(运输科技2区,IF:3.968),短短4年时间,创造了近年来Part C 单篇最高引用量,高达300多次。

01

背景

循环神经网络RNN之所以能够在自然语言处理NLP领域大火,很大程度上得益于长短期记忆网络LSTM的提出。LSTM能有效解决传统RNN在处理时间序列长期依赖中的梯度消失和梯度爆炸的问题,这和很多交通领域的预测问题很相似,如何利用过去的交通状态数据预测未来的交通状态?在预测过程中哪些信息应该被保留下来,哪些信息应该被舍弃?过去很长时间的数据是否对预测当前状态有用?LSTM能帮你很好的处理这些问题。

post一张自己画的RNN图,哈哈哈

02

创新点

这篇文章之所以能得到很高的引用量,很大程度上在于这是第一篇将LSTM应用到交通领域的文章,这在科研领域大大体现了“人无我有,人有我精,人精我转”的魅力!这篇文章的主体内容其实不多,但文章将该领域的研究现状和文献综述描述的很是详细了,11页的文章,文献综述占了4页,这也一定程度上体现了文章作者的用心。

03

主体内容

文章主要是借助道路交通的传感器数据(包括速度数据,客流量数据和道路占有率数据)来预测未来的道路交通速度。首先,讲述了LSTM的作用原理,其次,利用文章所使用的神经网络结构(一层输入,一层LSTM,一层输出),以历史道路速度数据为输入,来预测未来的交通速度,并与其他多种预测方法诸如Elman 神经网络,支持向量机SVM,卡尔曼滤波器Kalman filter等进行对比。然后又以道路速度和交通流量作为输入,来预测未来的交通速度,以验证是否输入较多的信息,会有更准确的结果。

文章中的LSTM示意图

04

疑问

文章一直在强调其中的一个创新点是:LSTM can automatically calculate the optimal time lags, and thus no predetermined time window size is needed. 即LSTM能自动确定最优的time lag, 因此在预测过程中不需要提前设置时间窗口,和几个小同行讨论过这个问题,大家在用这个算法过程中都会设置一个时间窗口,所以至今我也没搞明白作者在技术上是如何做到的,有做相关领域的大神还望指点一二~

05

展望

文章中给出的展望不像很多文章中列的是一些目前根本无法解决的问题,而是给出了很中肯的建议。例如探索将相邻传感器的数据作为输入、不同时间粒度下的预测效果对比、多层深度网络的使用。有此类数据的科研工作者不妨一试。

06

Writing Tips from This Paper

(1)Although traditional RNN exhibits a superior capability of modeling nonlinear time series problems in an effective fashion, there are still several issues to be addressed. 介绍既有研究的不足用。

(2)To the best of our knowledge, there is no application of LSTM NN in the domain of transportation.引出自己的创新点用。

就这些啦,很喜欢的一篇文章分享给大家,五一快乐!下周见!

交通预见未来(1):循环神经网络之LSTM,不只有七秒钟的记忆相关推荐

  1. YJango的循环神经网络——实现LSTM YJango的循环神经网络——实现LSTM YJango YJango 7 个月前 介绍 描述最常用的RNN实现方式:Long-Short Term Me

    YJango的循环神经网络--实现LSTM YJango 7 个月前 介绍 描述最常用的RNN实现方式:Long-Short Term Memory(LSTM) 梯度消失和梯度爆炸 网络回忆:在< ...

  2. 循环神经网络以及 LSTM 及其变体

    循环神经网络以及 LSTM 一.循环神经网络 1.1 RNN 简介概述 1.2 RNN 的图示讲解 1.3 RNN 的前向传播 二.LSTM ( Long Short-Term Memory) 2.1 ...

  3. 循环神经网络之LSTM、GRU

    循环神经网络之LSTM.GRU 1. 什么是 LSTM? LSTM(Long short-term memory,长短期记忆)是一种特殊的RNN,主要是为了解决长序列训练过程中的梯度消失和梯度爆炸问题 ...

  4. RNN循环神经网络 、LSTM长短期记忆网络实现时间序列长期利率预测

    全文链接:http://tecdat.cn/?p=25133 2017 年年中,R 推出了 Keras 包 _,_这是一个在 Tensorflow 之上运行的综合库,具有 CPU 和 GPU 功能(点 ...

  5. 深度学习~循环神经网络RNN, LSTM

    目录 1. 循环神经网络RNN 1.1 RNN出现背景 1.2 RNN概念 2. LSTM 2.1 LSTM出现背景 2.2 LSTM结构 参考 1. 循环神经网络RNN 1.1 RNN出现背景 pr ...

  6. 深度学习笔记——循环神经网络RNN/LSTM

    原文来自知乎专栏NLP进阶之路,作者韦伟. 以下文章是摘录了原文部分内容的学习笔记,侵删. 循环神经网络(Rerrent Neural Network) RNN是神经网络的一种,RNN对具有序列特性的 ...

  7. 循环神经网络_漫谈循环神经网络:LSTM、GRU

    知乎视频​www.zhihu.com 简单循环神经网络的局限性 循环神经网络横向结构也是借助激活函数进行传递的: 上图是循环神经网络按时间步展开,而如果一次处理的时间步过长,即从左到右的层数很深,那么 ...

  8. 循环神经网络(LSTM和GRU)(1)

    循环神经网络的简单实现: import tensorflow as tf x=[1,2] state=[0.0,0.0] w_cell_state=np.array([[0.1,0.2],[0.3,0 ...

  9. 循环神经网络与LSTM

    1. 循环神经网络 ①基本结构 在传统的神经网络模型中,是从输入层到隐含层再到输出层,层与层之间是全连接的,每层之间的节点是无连接的.但是这种普通的神经网络对于很多问题却无能无力.例如,你要预测句子的 ...

最新文章

  1. jq获取after和before伪类的content值
  2. 交换环境下的冗余及负载分担技术(STP Channel HSRP)
  3. centos 编译 mysql_Centos Mysql 编译安装调试
  4. 这些知识点你会吗?redis的分布式布隆过滤器含答案解析
  5. 【11/11】模拟赛
  6. javascript number转string不用科学计数法_[JavaScript]之数据类型篇
  7. 如何使用SAP事务码SAT进行UI应用的性能分析
  8. java.security.key jar_异常: java.security.InvalidKeyException: Illegal key size
  9. CodeIgniter配置之config
  10. 遍历这些字符串,如果字符串没有包含数字的,就将字符串中的小写字母转成大写字母并打印字符串
  11. 解决Windows 7 系统,Group Policy Client 服务未启动,不能登录的问题。
  12. python 线性回归 统计检验 p值_PAST:最简便易用的统计学分析软件教程(一)软件基本信息介绍...
  13. 微软2013年笔试题详解及深入
  14. PHP 文件与目录操作
  15. 2017/07/27 工作日志
  16. 美团王兴怒卸百度 App
  17. 10K 3435热敏电阻阻值表
  18. 流程图软件用哪款: Draw.io, 亿图图示, ProcessOn. 做最适合你的流程图
  19. 微软背叛wintel联盟,Intel似乎正陷入四面楚歌之中
  20. GPU硬件结构和编程模型(源于nvidia的CUDA文档)

热门文章

  1. C语言字符数组显示钻石,c++两种字符串赋值方式 并介绍 C语言下遍历目录文件的方式...
  2. YOJ3509-小豪搬宝藏
  3. 伺服驱动器cn1引脚定义_PCI-9014端子板DIN-68S和安川驱动器(SGDV-R90A01A002000)接线图...
  4. 【思维导图】巩固你的JavaScript知识体系
  5. 【数据库学习】关系数据库总结
  6. 解决Win10系统msconfig配置错误后无法启动的问题
  7. RuoYi-Vue,执行npm run dev,报错“RuoYi-Vue\ruoyi-ui\node_modules\eslint\lib\cli-engine\cli-engine.js:421”
  8. dalle:zero-shot text-to-image generation
  9. 汽车加油问题--贪心算法
  10. html5 制作 蓝色按钮,一组黑色质感的蓝色荧光3D按钮和单选按钮