损失率下降，但是准确率却提升慢或准确率结果不高
问题原因：
- 学习率设置太高，一个epoch直接收敛，所以损失不会下降。又没有设置防止过拟合的比如学利率一开始设置为1，因为下降太快，那么很有可能在一个epoch旧完全收敛。所以看到的validation数值并不下降，第一个epoch就已经处于谷底了。
- 最常见的原因：过拟合。主要包括：数据量小，网络复杂，
- learning rate 比较高，又没有设置任何防止过拟合的机制
解决方法：
- 简化模型，且进行数据增强，如：翻转，平移，随机裁剪等
- 利用 dropout层
- 利用正则化normalization
- 没有在分验证集之前打乱数据
- 数据和标签没有对上
- 训练数据太少，validation数据太多，类别也太多，解决方法：1.使用别的大的数据集预训练； 2.使用数据增强； 3.可以考虑迁移学习
- 使用预训练的权重，比较流行的backone网络，如vgg16等都有在imagenet数据集预训练的权重，使用这种权重，效果更好。
- 网络结构有问题。可以通过使用现在流行的网络（resnet，unet等）替入你的代码，如果结果没有问题，你的结果有问题那么肯定就是你网络结构出问题了。那么可以通过逐层注释掉排查究竟哪里出了问题。
- 网络最后一层没有使用正确的激活函数，比如多类别数据的应该使用softmax进行处理；
- relu处理后面是softmax。有一些说法是relu由于对于很大的数值直接复制，所以会对softmax产生不好的影响，从而输出不好的结果。所以可以使用tanh代替relu。
- batch normalization需要batch size至少16张
- 可能设置了一些参数是不可训练的。在训练语句之前，检查以下你的trainable参数，是否设置了一些参数是不可训练的。
损失率下降，但是准确率却提升慢或准确率结果不高相关推荐
- 微软亚洲研究院等提出CNN训练新方法RePr，准确率显著提升
今天为大家带来的论文导读是由布兰迪斯大学和微软亚洲研究院所提出的RePr--专为卷积神经网络所设计的训练方法.该方法通过对滤波器的重要性进行排序,对网络进行修剪,并迭代训练完整网络和子网络,提升网络表 ...
- 网站排名下降要如何优化提升排名呢
对于网站建设,SEO优化是非常重要的,网站在搜索引擎中出现的位置是很关键的,排名越靠前越好.那么,搜索排名下降要如何优化提升排名呢?接下来小编就跟大家分享下常用的网站搜索排名优化技巧,一起来看看吧! ...
- linux 输入法 高分屏,支持高分屏 提升生僻字准确率 搜狗五笔输入法重大更新
原标题:支持高分屏 提升生僻字准确率 搜狗五笔输入法重大更新 对于习惯使用拼音输入法的大多数用户来讲,五笔输入是需要强制记忆字根,通过练习才能掌握的输入法,它显得有些过时.甚至不少输入法厂商已经放弃了 ...
- 软件缺陷智能分析技术(3) - 提升SZZ的准确率
软件缺陷智能分析技术(3) - 提升SZZ的准确率 上一节我们介绍了在即时缺陷分析领域里有开创意义的SZZ算法.尽管用直觉都能感受到SZZ算法有诸多需要改进之处,但是目前这仍然是即时缺陷分析的基础方法 ...
- 人脸识别准确率大幅度提升
根据 NIST 2018年发布的成绩,目前全球最好人脸识别技术水平为千万分之一误报下的识别准确率接近 99%(yitu-001),这意味着受限场景下,在千万分位误报上,人类已经将机器的人脸识别能力推向 ...
- 《转载》工作5年左右的程序员如何在职业瓶颈期内快速提升自己的身价？提升后如何有效变现自己的高质量技能？...
工作5年左右的程序员如何在职业瓶颈期内快速提升自己的身价?提升后如何有效变现自己的高质量技能? 当一般的程序员工作5年左右后,往往会遇到事业上的一个瓶颈期:能力上已经达到高级开发,工资比上不足比下有余 ...
- 准确率不变 损失率下降_最新斯诺克排名奥沙利文排在第二，丁俊晖排第十，第一保持不变...
随着2020-2021赛季冠军联赛决赛落下战幕,世界斯诺克最新的排名也有所变动.目前英格兰选手贾德·特鲁姆普以1699500英镑依然占据第一位.而在冠军联赛决赛以3-1的比分击败贾德·特鲁姆普的凯伦· ...
- cnn 准确率无法提升_清华类脑芯片再登Nature: 全球首款基于忆阻器的CNN存算一体芯片...
传统计算架构中计算与存储在不同电路单元中完成,造成大量数据搬运功耗增加和额外延迟,被认为是冯·诺依曼计算架构的核心瓶颈. 人类的大脑却并非如此,而是直接在记忆体里计算.被认为具有「存算一体」潜力的忆阻 ...
- 准确率可提升50%以上，Facebook用迁移学习改进代码自动补全
视学算法报道 转载自:机器之心 编辑:陈萍.杜伟 来自 Facebook 的研究团队将迁移学习用于代码自动补全,提出的方法在非常小的微调数据集上提高 50% 以上的准确率,在 50k 标记示例上提高了 ...
最新文章
- 西湖大学能招本科生了！首次确定 5 大本科专业
- 异步爬虫框架与协程浅析
- Docker学习（一）
- 前缀、中缀、后缀表达式(转载)
- Python3 爬虫学习笔记 C03 【Ajax 数据爬取】
- System学习笔记007---win10连接阿里云出现_远程连接提示要求的函数不受支持如何解决
- Ubuntu 搭建 NVIDIA驱动 CUDA 和 pytorch GPU 环境
- Java描述设计模式(01)：单例模式
- oracle10g 数据源管理器找不到应用程序，可能是程序没有正确安装问题解决
- CF995C Leaving the Bar
- 网络弱电工程办理签证注意九个方面
- lua 遍历删除_lua中table如何安全移除元素
- 华为网络工程师认证有了解的吗？
- 2022电大国家开放大学网上形考任务-大学语文非免费（非答案）
- 前端快速上手APICloud App开发
- Unity UGUI Inputfield 回车submit 按下Enter回车完成
- 12个有趣的c面试题目
- JavaScript之BOM(BOM构成、常用事件)
- 小白UEFI启动如何设置
- Padstack Editor 17.4 - document