JIT just-in-time Compilation
即时翻译
pytorch和tensorflow存在差异
pytorch使用动态图结构，这使得其更加简单

TorchScript（这是搜索Pytorch JIT首先出来的结果）
动态图模型通过牺牲一些高级特性来换取易用性

模型部署

JIT是python和C++的桥梁
我们可以使用python训练模型，然后通过JIT将模型转为语言无关的模块，从而让C++可以非常方便的调用

性能提升

如果推断的场景对性能要求高，则可以考虑将模型（torch.nn.Module）转换为TorchScript Module，再进行推断

模型可视化

Tensorflow或keras对模型可视化工具（TensorBoard等）非常友好，因为本身就是静态图的编程模型，在模型定义好后整个模型的结构和正向逻辑就已经清楚了

可以使用JIT的trace功能来得到PyTorch模型针对某一输入的正向逻辑，通过正向逻辑可以得到模型大致的结构，但是如果在forward方法中有很多条件控制语句，这依然不是一个好的方法，所以PyTorch JIT还提供了Scripting的方法

references

https://zhuanlan.zhihu.com/p/370455320

pytorch JIT相关推荐

pytorch JIT浅解析
概要 Torch Script中的核心数据结构是ScriptModule. 它是Torch的nn.Module的类似物,代表整个模型作为子模块树. 与普通模块一样,ScriptModule中的每个 ...
PyTorch JIT与TorchScript
PyTorch JIT与TorchScript 转自:https://zhuanlan.zhihu.com/p/370455320 如果搜索 PyTorch JIT,找到的将会是「TorchScrip ...
[PyTorch] jit.script 与 jit.trace
pytorch 导出模型有两种方式,一种是 torch.jit.script,一种是 torch.jit.trace jit.script 如果网络中用到了索引,if 条件判断等,很有可能会失败. ...
Pytorch JIT 使用经验总结
注意 1. 使用CPU模式进行Trace或者jit.script正常,但是使用GPU模式确报错. 所有的torch.operator,需要传dim的.如 torch.cat(tensors, dim= ...
将TVM集成到PyTorch
将TVM集成到PyTorch 随着TVM不断展示出对深度学习执行效率的改进,很明显PyTorch将从直接利用编译器堆栈中受益.PyTorch的主要宗旨是提供无缝且强大的集成,而这不会妨碍用户.PyTo ...
将TVM集成到PyTorch上
将TVM集成到PyTorch上随着TVM不断展示出对深度学习执行效率的改进,很明显PyTorch将从直接利用编译器堆栈中受益.PyTorch的主要宗旨是提供无缝且强大的集成,而这不会妨碍用户.为此, ...
PyTorch攻势凶猛，程序员正在抛弃TensorFlow？
来源 | The Gradient 译者 | 夕颜出品 | AI科技大本营(ID:rgznai100) 自 2012 年深度学习重新获得重视以来,许多机器学习框架便争相成为研究人员和行业从业人员的新 ...
【收藏】万字综述，核心开发者全面解读PyTorch内部机制
↑↑↑关注后"星标"Datawhale 每日干货 & 每月组队学习,不错过 Datawhale干货作者:Edward Z.Yang,Pytorch核心开发者斯坦福大学博 ...
综述｜核心开发者全面解读Pytorch内部机制
↑ 点击蓝字关注视学算法作者丨Edward Z. Yang 来源丨机器之心编辑丨极市平台极市导读 Edward Z. Yang 是PyTorch开源项目的核心开发者之一.在PyTorch纽约聚 ...

pytorch JIT

模型部署

性能提升

模型可视化

references

pytorch JIT相关推荐

最新文章

热门文章