当深度神经网络预测结果不好的时候，可以做的调节有哪些？

首先要看在trainning set上的预测结果是不是够好，如果traing set上的结果不够好的话：

可以改变loss function，一般来说分类的时候，使用“mse”的预测结果不如“cross_entropy”。
调整适当的batch_size，不宜过大或者过小，100是个不错的选择。
可以加深网络，不过由于sigmod函数问题，可能训练结果不够好，可以改为relu函数作为激活函数。
对数据进行前期处理非常重要，在输入到网络之前，应该将网络nomalized。

当训练结果比较好，而预测结果比较差时：

early stopping，早点停止训练
在每一层上加入dropout，training上的结果会变差，但是test上的结果会变得更好。

注：adam的训练时收敛的速度要比sgd要快

当深度神经网络预测结果不好的时候，可以做的调节有哪些？相关推荐

深度神经网络的不确定性（中）
目录不确定度估计方法 A.Single Deterministic Methods B.Bayesian Neural Networks C. Ensemble Methods D. Test Ti ...
MDNN：一种用于药物-药物反应预测的多模态深度神经网络
目录背景介绍模型描述模型架构展示计算对象介绍方法 DKG通道 HF通道双模态融合实验结果后续思考第一方面第二方面背景介绍模型来自文章:"MDNN: A Multimo ...
基于多源信息的深度卷积神经网络预测CircRNA疾病关联的有效方法
An Efficient Approach based on Multi-sources Information to Predict CircRNA-disease Associations Usi ...
多层感知机深度神经网络_使用深度神经网络和合同感知损失的能源产量预测...
多层感知机深度神经网络 in collaboration with Hsu Chung Chuan, Lin Min Htoo, and Quah Jia Yong. 与许忠传,林敏涛和华佳勇合作. ...
01.神经网络和深度学习 W4.深层神经网络（作业：建立你的深度神经网络+图片猫预测）
文章目录作业1. 建立你的深度神经网络 1. 导入包 2. 算法主要流程 3. 初始化 3.1 两层神经网络 3.2 多层神经网络 4. 前向传播 4.1 线性模块 4.2 线性激活模块 4.3 多 ...
【预测模型】基于DNN深度神经网络实现minist数据集预测matlab源码
一.DNN深度神经网络介绍神经网络简史神经网络技术起源于上世纪五.六十年代,当时叫感知机(perceptron),拥有输入层.输出层和一个隐含层.输入的特征向量通过隐含层变换达到输出层,在输出层得 ...
生物信息学|MOLI:基于深度神经网络进行多组学数据整合并用于药物反应预测
本篇推文引自:MOLI: multi-omics late integration with deep neural networks for drug response prediction 摘要 ...
【深度学习论文翻译】基于LSTM深度神经网络的时间序列预测（Time Series Prediction Using LSTM Deep Neural Networks）
目录一.前言二.摘要三.什么是LSTM神经元? 四.简单正弦波示例五. 不那么简单的股票市场六.多维LSTM预测七.结论一.前言最近需要用到时间序列,在网上也找到了一篇相关的文章及源代 ...
论文解读《DeepCPP:一种基于核苷酸偏差信息和最小分布相似性特征选择的用于RNA编码潜力预测的深度神经网络》
摘要深度测序技术的发展导致了新转录本的发现.已经开发了许多计算机方法来评估这些转录本的编码潜力,以进一步研究它们的功能.现有方法在区分大多数长非编码 RNA (lncRNA) 和编码 RNA (mR ...

当深度神经网络预测结果不好的时候，可以做的调节有哪些？

当深度神经网络预测结果不好的时候，可以做的调节有哪些？相关推荐

最新文章

热门文章