点击上方“视学算法”,选择加"星标"或“置顶

重磅干货,第一时间送达

鱼羊 发自 凹非寺
量子位 报道 | 公众号 QbitAI

微信正用着的深度学习框架,现在你也可以上手试一试了。

就在最近,腾讯把这个名叫deepx_core的深度学习基础库正式对外开源

相比于PyTorch、TensorFlow等流行深度学习框架,这位选手不仅具有通用性,还针对高维稀疏数据场景进行了深度优化。

也就是说,对于开发搜索、推荐、广告这样的深度学习应用,会更加友好易用。

具体是怎么一回事,不妨一起来了解一下~

一个张量计算/深度学习基础库

根据项目介绍,deepx_core是一个通用的深度学习框架,使用C++11开发。基于deepx_core,可以快速开发张量计算/机器学习/深度学习/强化学习/图神经网络/无监督学习等应用。

关于deepx_core的特点,不妨先从张量说起。

张量是deepx的核心数据结构,有以下几种类型。

其中,float_t是单精度浮点数,int_t是64位无符号整数。

值得一提的是,稀疏张量一直是开源框架的痛点,但像搜索、推荐等算法应用,其实都是高维稀疏数据场景。

为此,deepx_core设计并实现了稀疏张量和配套的operation,以原生的方式实现了稀疏模型。

在分布式训练场景下,稀疏张量均匀分布在多台参数服务器上,模型规模能随着参数服务器数量增加而线性扩展。

deepx_core的另一个重要模块,是计算图

具体而言,deepx_core提供了一个支持自动求导的静态图引擎,支持100+ operation,覆盖几乎所有网络类型。

计算图引擎通常用在各种深度学习任务中。而一个完整的深度学习应用,主要包括以下模块的开发和使用:

  • 样本解析器

  • 特征抽取

  • 计算图

  • 优化器

在deepx_core中,样本解析器和优化器都是单独的模块。在内置样本解析器、优化器无法满足需求的情况下,都可以通过继承来增加新的解析器、优化器。

另外,因为基于C++开发,deepx_core具有高性能跨平台的特点。

根据官方实验数据,基于deepx_core解决方案的性能普遍是开源框架的5-10倍。

安装使用

如果你想亲自试试这个新开源框架,那么需要先准备一个支持C++11的编译器来进行编译。

make -j8

再跑一下单元测试。

make -j8 test

然后安装即可。

make -j8 install PREFIX=/where/you/want/to/install

已有落地应用

最后,简单介绍一下项目背后的开发团队。

deepx_core的开发者来自微信看一看算法平台团队

据介绍,在正式开源之前,deepx系列机器学习项目已经在腾讯内部经过了3年多的迭代。

微信看一看、微信搜一搜、微信支付、微信表情、微信视频号、微信小程序、微信读书、QQ音乐、应用宝、腾讯新闻、腾讯课堂、腾讯黑产打击等排序/召回场景中,都已经有deepx_core及其衍生项目的落地。

说起来,鹅厂近年来在开源方面确实没少下功夫。

根据腾讯2020年度《腾讯研发大数据报告》,腾讯目前深度参与了数十个国际知名开源项目的贡献,并在OpenJDKKVM等开源社区的贡献榜上,攀至国内第一。

辣么,你可曾用过鹅厂的开源项目?欢迎在评论区分享经验~

传送门

项目地址:
https://github.com/Tencent/deepx_core

本文系网易新闻•网易号特色内容激励计划签约账号【量子位】原创内容,未经账号授权,禁止随意转载。

点个在看 paper不断!

微信正在用的深度学习框架开源!支持稀疏张量,基于C++开发相关推荐

  1. 阿里深度学习框架开源了!无缝对接TensorFlow、PyTorch

    阿里巴巴内部透露将开源内部深度学习框架 X-DeepLearning的计划,这是业界首个面向广告.推荐.搜索等高维稀疏数据场景的深度学习开源框架,可以与TensorFlow.PyTorch 和 MXN ...

  2. 旷视:深度学习框架开源

    天元MegEngine 深度学习框架正式开源 Brain++ 新一代AI生产力平台 旷视Brain++是由旷视研究院自主研发的新一代 AI 生产力平台,致力于帮助企业和开发者提升AI生产效率.规范生产 ...

  3. 旷视落子天元:深度学习框架开源,是成为伟大AI企业的第一步

    "机器必须有自己独特的思考,机器必须做人类做不到的事情." 作者 / 刘亚杰 编辑 / 刘 煜 人工智能的飞速发展离不开深度学习和算法的演进.人工智能是怎样实现的?算法又是怎样产生 ...

  4. 深度学习框架Caffe2并入PyTorch,你的开发效率可能要提升不少

    作者 | DavidZh 出品 | 人工智能头条(AI_Thinker) 知名深度学习框架 Caffe2 最近正式将代码并入了 PyTorch. 目前供职于 Facebook,同时也是 Caffe2 ...

  5. 深度学习框架pytorch入门之张量Tensor(一)

    文章目录 一.简介 二.查看帮助文档 三.Tensor常用方法 1.概述 2.新建方法 (1)Tensor(*sizes) tensor基础构造函数 (2)ones(*sizes) 构造一个全为1的T ...

  6. 国产深度学习框架迎来高光时刻,继清华 Jittor开源后,旷视「天元」纷纷重磅开源!...

    关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 1956年,美国的达特茅斯会议成为人工智能开启的标志性事件.同年,中国第一批自主制 ...

  7. 清华开源Jittor:首个国内高校自研深度学习框架,一键转换PyTorch

    关注上方"深度学习技术前沿",选择"星标公众号", 资源干货,第一时间送达! 来源:机器之心@微信公众号 继 Theano.Caffe 之后,又一个由高校主导的 ...

  8. 清华「计图」、旷视「天元」纷纷重磅开源,国产深度学习框架迎来高光时刻...

    来源:CSDN 本文约3141字,建议阅读7分钟. 本文介绍清华开源的深度学习框架 Jittor(计图) 引起了广泛关注,支撑旷视诸多业务和战绩的深度学习框架 MegEngine(天元) 也将在近日开 ...

  9. 清华开源 Jittor:首个国内高校自研深度学习框架,一键转换 PyTorch

    点击上方"视学算法",马上关注 真爱,请设置"星标"或点个"在看" 来源 | 机器之心 继 Theano.Caffe 之后,又一个由高校主导 ...

最新文章

  1. C++ Primer 5th笔记(chap 19 特殊工具与技术)控制内存分配
  2. mysql数据库系统配置文件_跟我学虚拟机系统平台相关技术及应用——在CentOS系统中的MySql数据库系统配置文件中进行配置定义...
  3. rabbitmq添加自启动 centos7环境
  4. 新功能又来啦!这次是「代码搜索」和视频直播!
  5. 保险科技服务商豆包网完成9500万新一轮融资,博将资本领投
  6. 邮箱可以群发邮件吗?邮件群发怎么发?推荐邮箱邮件群发平台
  7. STM32MP157移植Qt5.12.10
  8. ajax创建未读消息列表,定时(隔一段时间)提交ajax更新未读消息
  9. (shell批量版)二进制高可用安装k8s集群v1.23.5版本,搭配containerd容器运行时
  10. 厦大计算机科学系培养方案,计算机科学与技术学术型培养-厦门大学计算机科学系...
  11. 思维导图如何助力营销策划
  12. 攻防世界 misc 高手区 Miscellaneous-300
  13. 如何在 Web 3领域中工作?
  14. .NET 对于构建系统应用的探索历程
  15. 【验证码功能合集】vue简单实现验证码功能,纯前端实现验证码,拿来即用【输入,滑动,拼图】
  16. python数组堆叠,堆叠数组-python数据处理
  17. 【threejs效果:模型炸开】以钢铁侠obj模型为例
  18. GIS操作之高程、坡度、坡向
  19. qq修改聊天记录保存位置
  20. ApacheCN 公众号文章汇总 2019.7

热门文章

  1. Datawhale组队学习周报(第032周)
  2. 【直播】鱼佬:心跳信号分类赛高分突破
  3. 【HDU】1084 What Is Your Grade? (结构体 sort)
  4. 【数据结构】所有顶点对的最短路径 Floyd算法
  5. Ivanti 洞察职场新趋势:71% 的员工宁愿放弃升职也要选择随处工作
  6. 未来十年,人机交互将是重要的发展
  7. OpenAI 开放 GPT-3 微调功能,让开发者笑开了花
  8. 官方抓虫,PyTorch 新版本修复 13 项 Bug
  9. 赴约北大,2019 CCF大数据与计算智能大赛正式启动
  10. 算力超英伟达?华为推出两款“昇腾”芯片;五大AI战略正式公布