在EasyDL的服务端,有下面几种核心技术:AI Workflow分布式引擎,百度自创PaddlePaddle深度学习框架,迁移学习,Auto Model Search机制, early stoopping机制,模型效果评估机制。下面来一一了解一下。

对于一个DL建模,大致工作流程如下:

(1)在数据仓库提取数据

(2)ETL*进行数据清洗,特征提取,验证集的切分

(3)分布式训练

(4)模型评估

(5)自动服务(auto serving)

大数据经典3V原则

大数据经典3V

 迁移学习(transfer learning)*

迁移学习(Transfer learning) 顾名思义就是就是把已学训练好的模型参数迁移到新的模型来帮助新模型训练。考虑到大部分数据或任务是存在相关性的,所以通过迁移学习我们可以将已经学到的模型参数(也可理解为模型学到的知识)通过某种方式来分享给新模型从而加快并优化模型的学习效率不用像大多数网络那样从零学习(starting from scratch,tabula rasa)。举个栗子,做中草药识别模型时,EasyDL会将已有的植物识别模型运用到中草药识别当中去:将百度大规模标注的数据集在深度神经网络上做预训练,将预训练参数加入神经网络中做调解(迁移学习),从而大大提高效率。这样可以将几十个小时的训练降低到几小时甚至几分钟量级。此外,EasyDL还支持多点预训练,持续闭环等机制,使得工作流实现配置化和自动化。

EasyDL还使用了Auto Model Search 和 Early stopping机制,让少两样本就能有用高精度。Auto Model Search就是对模型结构和超参数做自动搜索,更好匹配不同类型数据,做最佳模型。而early stopping呢,能够降低过拟合风险。做过DL的同学应该都有体会,DL是能分分钟过拟合的,对于这种风险,early stopping能很好抑制过拟合和欠拟合。目前EasyDL的模型绝大多数准确率都在80%以上。

载录自https://blog.csdn.net/weixin_39965890/article/details/81139638

若有侵权请联系删除。

有关easyDL的浅析(资料集合)相关推荐

  1. Java入力项目无法设定到form_html中关于form与表单提交操作的资料集合

    原标题:html中关于form与表单提交操作的资料集合 这里我们介绍一下form元素与表单提交方面的知识. form元素 form元素的DOM接口是HTMLFormElement,继承自HTMLEle ...

  2. WebRTC各种资料集合(WebRtc入门必看)

    WebRTC各种资料集合 javascript frameworks Video chat: https://github.com/andyet/SimpleWebRTC  https://githu ...

  3. 1024程序员节最新福利之2018最全java资料集合

    前言 有好久没有写博客了,主要这段时间都沉迷学习无法自拔了,哈哈.自吹一波. 前两天不是1024节吗,所以就有很多福利出现了,当然每个人能都获得的信息都有所不同,这就是所谓的信息差.秉着好东西需要分享 ...

  4. Android资料集合

    如果本文帮助到你,本人不胜荣幸,如果浪费了你的时间,本人深感抱歉. 如果有什么错误,请一定指出,以免误导大家.也误导我. 本文来自:www.jianshu.com/users/320f9- 感谢您的关 ...

  5. 最强Dot Net教程资料集合

    资源类型:RAR 资源大小:18GB 视频名称:<最强Dot Net教程资料集合> 视频简介: 视频信息: 资源类型:RAR 资源大小:18GB 视频名称:<最强Dot Net教程资 ...

  6. 《最强Dot Net教程资料集合》[转自VeryCD]

    下面是用户共享的文件列表,安装eMule后,您可以点击这些文件名进行下载 [最强Dot.Net教程资料集合].LearnKey.Asp.Net-Part1CD1.ISO 详情 435.8MB [最强D ...

  7. 机器学习(Machine Learning)深度学习(Deep Learning)资料集合

    机器学习(Machine Learning)&深度学习(Deep Learning)资料 原文链接:https://github.com/ty4z2008/Qix/blob/master/dl ...

  8. 安卓音频处理相关资料集合贴

    ## 1 音频处理基础知识 ### 1.1 文件格式和编码之间的关系 首先需要说明的是,文件格式和编码之间的关系如同碗与烹饪手法之间的关系. 文件格式只代表一个容器,这个容器可以包含视频或者音频,以及 ...

  9. iOS 学习视频 资料集合 (视频 +博客)

    转载:https://blog.csdn.net/yst19910702/article/details/78809472 无意间在网上发现一些学习资源,分享下.资源主要是一些视频资源和博客网站.这些 ...

最新文章

  1. 最新剑桥《AI全景报告》出炉:中国发表机器学习学术研究超过美国
  2. Farbic区块链PHP SDK
  3. POJ2481-Cows【树状数组】
  4. 数据 3 分钟 | TiDB 5.0 正式发布、Graph + AI 2021 全球峰会即将召开、2020 年图灵奖公布...
  5. SVN使用过程中出现“工作副本已经锁定”的解决办法
  6. 省市级联mysql数据_全国省市区县三级级联数据
  7. 隐马尔科夫模型(HMM)
  8. android自定义速度仪表盘,自定义View实战:汽车速度仪表盘
  9. 购物商城网站建设费用到底贵不贵?
  10. TSL237 简介
  11. 图片热点map area
  12. 【sketchup 2021】草图大师的高级工具使用2【材质贴图应用的基础功能和高级使用与实战演练(给地砖调整尺寸、转贴贴图圆柱为例、投影贴图百叶窗为例】
  13. Boxplot(盒图)
  14. Tekla图纸二次开发课程
  15. Win10--解决电脑麦克风没声音的问题
  16. iOS基础 获取状态栏的高度
  17. leetcode报错:member access within null pointer of type struct ListNode
  18. jsnes-FC模拟器-在线玩fc游戏
  19. Xshell计算-五个文件的准备
  20. HttpWebRequest 提示 “基础连接已关闭:发送时发生意外错误” 的解决方法

热门文章

  1. 主板有电无法启动_主板电池没电引起电脑无法正常启动的故障
  2. VMware安装-网络设置
  3. 天梯赛——大笨钟的心情
  4. Aspose.Words for .NET使用教程:将文档转换为字节数组和HTML
  5. 极晓QuickHeal 2010版新增四大功能-3
  6. Java使用XDOC实现word,pdf等格式的生成及转换
  7. 技术部门开会注意事项
  8. python npv 计算公式_python数据分析进阶之路(二)----Numpy进阶
  9. 蒲公英java后台上传_Android apk 项目一键打包并上传到蒲公英的实现方法
  10. openwrt安装蒲公英_还在担心数据泄密?用蒲公英路由器X3搭建NAS一劳永逸