目录

一、背景及介绍

1.1 长短时记忆网络

1.2 猎人猎物优化算法(HPO)

二、HPO-LSTM算法

三、模型仿真与结果分析

四、总结与展望

一、背景及介绍

1.1 长短时记忆网络

提到LSTM算法,相必大家都马上就能想起和序列、列表有关的时序数据的预测,是RNN的改进版本。现如今,lstm已经在语音识别,语言建模,翻译,图片描述等问题上已经取得一定成功,并且被越来越多的应用在各行各业种。LSTM 的关键就是细胞状态,水平线在图上方贯穿运行。细胞状态类似于传送带。直接在整个链上运行,只有一些少量的线性交互。信息在上面流传保持不变会很容易。

LSTM内部主要有三个阶段:1.忘记阶段,遗忘门。这个阶段主要是对上一个节点传进来的输入进行选择性忘记。简单来说就是’忘记不重要的,记住重要的‘。具体来说就是通过计算得到的f表示forget)来作为忘记门控,来控制上一个状态的哪些需要留哪些需要忘。2.选择记忆阶段,输入门。这个阶段将这个阶段的输入有选择性地进行’记忆‘。主要是会对输入x进行选择记忆。重要部分多记录,不重要的少记录。当前的输入由前面计算得到的 z 表示。而选择的门控信号则是由i来进行控制。将上面两步得到的结果相加,即可得到传输给下一个状态的  。也就是上图中的第一个公式 。 3. 输出阶段,输出门。这个阶段将决定哪些将会被作为当前状态的输出。主要是通过来进行控制的。并且还对上一阶段得到的进行了放缩(通过一个tanh激活函数进行变化)。与普通RNN类似,输出往往最终也是通过变化得到。

也有很多文章详细的讲解了LSTM的内容如下,这里就不再详细介绍了:

深度学习:LSTM简介_小马帅就是我没错了的博客-CSDN博客_lstm介绍

理解 LSTM 网络 - 简书

人人都能看懂的LSTM - 知乎

1.2 猎人猎物优化算法(HPO)

相信提到这个算法大家可能就一头雾水了,因为这个优化算法是2021年最新提出的一种具有全局寻优能力的优化算法。别怕,类似的算法你肯定听说过:模拟退火算法、蚁群算法等等。都是经典的具有全局寻优能力的优化算法,在解决问题的过程中利用这种算法可以快速的找到全局的最优解并且这种算法还可以在常见的机器学习算法中代替原有的参数更新过程来避免传统的机器学习算法可能出现的陷入局部极值的情况。而最新的群智优化算法可以参考下面的这个博客:

2020-2022年最新的智能群优化算法_Vertira的博客-CSDN博客_最新的群智能优化算法

猎人猎物优化搜索算法是由Naruei& Keynia 于2022年提出的一种最新的优化搜索算法。受到捕食动物(如狮子、豹子和狼)和猎物(如雄鹿和瞪羚)的行为的启发,他们根据猎人和猎物的位置移动方法设计了一种新型的搜索方式及自适应度更新的方法,随后的测试被应用在多个单峰及多峰测试函数上,并表现出了优于其他搜索算法的特点。

该算法的基本假设是:在猎人寻找猎物的场景中,由于猎物通常是成群的,猎人将大概率的选择一个远离群体的猎物(远离平均群体位置)。猎人找到猎物后,就会追逐猎物。与此同时,猎物寻找食物,并在捕食者的攻击中逃脱,到达一个安全的地方,这两个过程中即伴随着猎人位置与猎物位置的更新。根据适应度函数,我们最终认为这个安全的地方(目标搜索位置)是最佳猎物所在的地方,从而完成了整个搜索的过程,下面分别是猎人追击猎物与猎物逃跑过程的示意图。

详细的猎人猎物优化算法可以参考下面这篇博客:

基于猎人猎物优化算法的函数寻优算法_心️升明月的博客-CSDN博客

二、HPO-LSTM算法

整体的HPO-LSTM算法其实核心的思想就是去改变网络训练过程反向传播过程中的参数更新的方法,基本的流程图如下,:

三、模型仿真与结果分析

采用matlab进行编程求解,并且以我国的最早的八个碳交易试点地区为例进行模型测试。

详细的代码和数据可以私信找我要。训练过程中的截图:

预测结果与真实结果之间的对比:

最后进行模型分析,可从图中可以清晰直观的看出:优化后的HPO-LSTM模型在中国八个试点地区的碳交易价格测试数据中的均方误差(RMSE)均小于对应地区的LSTM的误差,表明优化后的预测模型预测准确率高于原有模型;同时由程序全部运行时间的对比图可看出,HPO-LSTM模型的平均运行时间在八个地区上均呈现小于LSTM的趋势,表明优化后的模型能够提高预测效率,缩短程序运行时长:

四、总结与展望

传统LSTM网络在预测时间序列数据方面的不足,可以利用最新提出的具有较强的全局搜索与局部寻优能力的HPO搜索算法来对其进行优化。将HPO中调整自适应度及超参数的方法替换原LSTM中反向传播中参数更新的梯度下降方法,可以有效地避免在迭代搜索过程中陷入局部极值的概率,从而大大提高模型预测的准确率;同时,利用算法结构简单的HPO替换原有复杂的LSTM模型中的参数更新同样可以使得预测模型的效率提升。在不同地区不同类型的数据集上HPO-LSTM表现的均比原有LSTM模型更优,表明了优化后的模型在碳交易价格的预测上具有一定的泛化能力。

基于猎人猎物算法优化LSTM的碳交易价格预测相关推荐

  1. 时序预测 | MATLAB实现基于Adam算法优化LSTM长短期记忆神经网络时间序列预测

    时序预测 | MATLAB实现基于Adam算法优化LSTM长短期记忆神经网络时间序列预测 目录 时序预测 | MATLAB实现基于Adam算法优化LSTM长短期记忆神经网络时间序列预测 效果一览 基本 ...

  2. 基于麻雀算法优化LSTM回归预测(matlab)

    基于麻雀算法优化LSTM回归预测(matlab) 概述: 麻雀算法构思 lstm原理 麻雀优化lstm原理 代码及结果展示 第一部分 麻雀算法构思 众所周知,麻雀是常见的留鸟而且非常喜欢群居.这种生物 ...

  3. 【回归预测-LSTM预测】基于灰狼算法优化LSTM实现数据回归预测附Matlab代码

    1 内容介绍 一种基于灰狼算法优化LSTM的网络流量预测方法,属于网络流量预测领域,该方法包括以下步骤:对第一网络流量数据集进行极差标准化处理,得到第二网络流量数据集,并划分为训练集和测试集,并确定灰 ...

  4. 基于Adam算法优化GRU神经网络的短期负荷预测(Python代码实现)

    目录 1 Adam优化算法 2 Adam算法中的学习率衰减策略 3 GRU神经网络 4 运行结果 5 参考文献 6 Python代码实现 1 Adam优化算法 2 Adam算法中的学习率衰减策略 该文 ...

  5. 基于灰狼算法优化概率神经网络PNN的分类预测-附代码

    基于灰狼算法优化概率神经网络PNN的分类预测 - 附代码 文章目录 基于灰狼算法优化概率神经网络PNN的分类预测 - 附代码 1.PNN网络概述 2.变压器故障诊街系统相关背景 2.1 模型建立 3. ...

  6. 论文学习——基于混合GA优化LSTM的中小流域流量预测研究

    文章目录 1 摘要 2 结语(conclusion) 3 引言 4 基于LSTM的流量预测模型 4.1 LSTM神经网络浅介绍 4.2 数据选择与处理 5 SVM + BP + LSTM 三种单预测模 ...

  7. 【算法竞赛学习】二手车交易价格预测-Task5模型融合

    二手车交易价格预测-Task5 模型融合 五.模型融合 Tip:此部分为零基础入门数据挖掘的 Task5 模型融合 部分,带你来了解各种模型结果的融合方式,在比赛的攻坚时刻冲刺Top,欢迎大家后续多多 ...

  8. 【算法竞赛学习】二手车交易价格预测-Task4建模调参

    二手车交易价格预测-Task4 建模调参 四.建模与调参 Tip:此部分为零基础入门数据挖掘的 Task4 建模调参 部分,带你来了解各种模型以及模型的评价和调参策略,欢迎大家后续多多交流. 赛题:零 ...

  9. 【算法竞赛学习】二手车交易价格预测-Task3特征工程

    二手车交易价格预测-Task3 特征工程 三. 特征工程目标 Tip:此部分为零基础入门数据挖掘的 Task3 特征工程部分,带你来了解各种特征工程以及分析方法,欢迎大家后续多多交流. 赛题:零基础入 ...

最新文章

  1. 使用idea创建springboot项目并打成war包发布到weblogic上...
  2. 一道微软面试题的运算过程解析
  3. 每天一道LeetCode-----括号匹配
  4. PHP - 会话控制
  5. (vue基础试炼_04)使用组件改造TodoList
  6. c++11测试时间封装
  7. 升级 Node.js 版本遇到的 co 和 pm2 问题解析
  8. property属性学习
  9. python游戏编程实战教程_关于游戏编程的详细介绍
  10. 【ESP 保姆级教程】疯狂传感器篇 —— 案例:ESP8266 + 光敏光照传感器 + 串口输出
  11. 安卓10不支持qmc解码_基于安卓10的LineageOS 17.1来了,支持一加、小米、LG等机型...
  12. JavaScript 数组拼接打印_JavaScript 中的“黑话”
  13. Jquery导出页面表格table的内容为Excel,PDF,DOC格式
  14. 车载T-BOX中MCU和SoC通信方案(SPI通信方式)
  15. 袋鼠过河python
  16. 目标检测——day44 Tiny Object Detection in Aerial Images
  17. 个人总结的Java小工具类
  18. (笔记)Chrome浏览器基于Chromium内核的浏览器 解决卡顿的方法
  19. php 连续打印设置,教你如何设置打印机连续打印销售单/快递单的方法
  20. 雅虎是如何做到收购一家毁一家?

热门文章

  1. 声网推出首个完整实时合唱解决方案 即将上线“咪哒”全国线下K歌房
  2. Android上如何实现矩形区域截屏
  3. htc vive游戏开发_如何设置HTC Vive并开始玩游戏
  4. Tableau 饼图显示百分比
  5. Keycloak的搭建
  6. 中国信通院:2018年大数据安全白皮书(附下载)
  7. 关于oracle11G的自动内存管理MEMORY_TARGET和MEMORY_MAX_TARGET
  8. 如何用 Spring Security 集成 CAS 认证 (二)
  9. C# 收据编号由公司代码+操作员代码+年份+4位流水号
  10. Android 蓝牙 OPP文件传输-Obex协议连接-socket连接 从framework到协议栈btif层 --- 全网最详细(一)