tensorflow模型在实际上线进行预测的时候，使用CPU工作

最近已经训练好了一版基于DeepLearning的文本分类模型，TextCNN原理。在实际的预测中，如果默认模型会优先选择GPU那么每一次实例调用，都会加载GPU信息，这会造成很大的性能降低。

那么，在使用的过程中我们无关乎使用GPU还是CPU，使用CPU反而是很快的，所以在有GPU的服务器部署模型，代码之前加入os.environ["CUDA_VISIBLE_DEVICES"]=-1，这样事情就好解决了。

转载于:https://www.cnblogs.com/demo-deng/p/10413912.html

tensorflow模型在实际上线进行预测的时候，使用CPU工作相关推荐

tensorflow机器学习模型的跨平台上线
在用PMML实现机器学习模型的跨平台上线中,我们讨论了使用PMML文件来实现跨平台模型上线的方法,这个方法当然也适用于tensorflow生成的模型,但是由于tensorflow模型往往较大,使用无法 ...
机器学习基于skcilearn tensorflow电子书_Tensorflow机器学习模型的跨平台上线
本篇文章转载自博客园,作者: 刘建平Pinard 在用PMML实现机器学习模型的跨平台上线中,我们讨论了使用PMML文件来实现跨平台模型上线的方法,这个方法当然也适用于tensorflow生成的模型, ...
TensorFlow模型的签名推荐与快速上线\n
简介往期文章我们给你推荐一种TensorFlow模型格式介绍过, TensorFlow官方推荐SavedModel格式作为在线服务的模型文件格式.近期TensorFlow SavedModel模 ...
TensorFlow 模型和权重的保存及预测
TensorFlow模型和权重的保存因为大肥狼在使用保存的模型和权重进行预测时遇到了一些问题,所以本文将介绍如何在TensorFlow中保存模型和权重,并如何使用保存的模型和权重来进行预测. 1.代 ...
使用pyspark 的udf进行tensorflow 模型的预测报错 _pickle.PicklingError: Could not serialize object:
训练了一个bert分类模型,想通过pyspark 调用,一开始将tf模型的加载,预测以及转化成udf和pyspark调用写到了一个文件中,遇到了如下错误: 具体报错: _pickle.Pickling ...
TensorFlow模型保存和加载方法
TensorFlow模型保存和加载方法模型保存 import tensorflow as tfw1 = tf.Variable(tf.constant(2.0, shape=[1]), name=& ...
干货 | tensorflow模型导出与OpenCV DNN中使用
点击上方"小白学视觉",选择加"星标"或"置顶" 重磅干货,第一时间送达本文转自|OpenCV学堂 OpenCV DNN模块 Deep N ...
简单完整地讲解tensorflow模型的保存和恢复
http://blog.csdn.net/liangyihuai/article/details/78515913 在本教程主要讲到: 1. 什么是Tensorflow模型? 2. 如何保存Tenso ...
打成jar包_keras, tensorflow模型部署通过jar包部署到spark环境攻略
这是个我想干很久的事情了.之前研究tensorflow on spark, DL4j 都没有成功.所以这里首先讲一下我做这件事情的流程.模型的部署,首先你得有一个模型.这里假设你有了一个keras模型 ...

tensorflow模型在实际上线进行预测的时候，使用CPU工作

tensorflow模型在实际上线进行预测的时候，使用CPU工作相关推荐

最新文章

热门文章