Win10下基于Docker使用tensorflow serving部署模型
windows就是更坑
安装Docker for Windows
- 前提:Docker for Windows需要带有Hyper-V的64位Windows 10 Pro,如果您的系统不符合运行Docker for Windows的要求,则可以安装 Docker Toolbox,它使用Oracle Virtual Box而不是Hyper-V。【注:我的是win10专业版1709,Docker现在可以使用Hyper-V技术在Windows上运行Linux容器(LCOW)。】
点击查看详情页- 打开Hyper-V服务:手动配置还是挺麻烦,可以通过Docker for Windows安装程序来启用Hyper-V,然后计算机会自动重启
- 等待docker小鲸鱼图标停止“喷水”——docker is starting或者docker is switching,成功后会是这样:
- 启动docker:建议使用powershell启动;
- win+R,输入powershell
- 运行一下命令验证安装:docker –version、docker-compose –version、docker-machine –version、docker version
- 关闭自动更新与开机自启:小图标右键:settings
- 查看更详细的初步教程
- 或者这篇博客
tensorflow serving on docker
1.先克隆到本地:(我是用的git bash,也可以直接在powershell中执行命令)【一开始我是在powershell中clone的,但是发觉速度太慢,并且还失败了】
git clone –recurse https://github.com/tensorflow/serving.git(如果克隆库的时候要带上子模块,请加上 –recursive 参数)
再次进入powershell:cd serving
我这下载完成后有1.1个G
2.使用docker创建容器(会下载很多依赖,bazel, grpc。这也是使用容器的原因,手动通过源代码构建太麻烦)【bazel是谷歌的构建工具blaze的开源版】
docker build –pull -t tensorflow-serving-devel -f tensorflow_serving/tools/docker/Dockerfile.devel .
// 3.运行上面创建的容器(会进入对应的终端):
docker run –name=tensorflow_container -it $USER/tensorflow-serving-devel【–name参数的值可以改,但是要记住了,之后在web端或者APP端会用到】
// 4.在容器中再次clone:
git clone –recurse https://github.com/tensorflow/serving.git
cd serving/tensorflow
./configure
// 5.选择你要安装的“组件”:
报错及解决:
invalid argument “/tensorflow-serving-devel” for t: invalid reference format:
我认为这是使用windows造成的,去掉 docker build –pull -t $USER/tensorflow-serving-devel -f tensorflow_serving/tools/docker/Dockerfile.devel .中的 user
no matching manifest for windows/amd64 in the manifest list entries:暂时没能解决
参考:
- YouTube
- 上方视频的文件资料
- https://weiminwang.blog/2017/09/12/introductory-guide-to-tensorflow-serving/
- https://towardsdatascience.com/how-to-deploy-machine-learning-models-with-tensorflow-part-2-containerize-it-db0ad7ca35a7
- https://www.tensorflow.org/serving/
Win10下基于Docker使用tensorflow serving部署模型相关推荐
- Win10 基于Docker使用tensorflow serving部署模型
目录 安装Docker for Windows 安装 tensorflow-serving-api tensorflow serving on docker 测试tf server 方法3:grpc ...
- 用Docker容器自带的tensorflow serving部署模型对外服务
相信很多人和我一样,在试图安装tensorflow serving的时候,翻遍了网上的博客和官网文档,安装都是以失败而告终,我也是一样,这个问题折磨了我两个星期之久,都快放弃了.幸运的是在同事的建议下 ...
- 用Docker容器自带的tensorflow serving部署模型对外服务(成功率100%)
前传: 相信很多人和我一样,在试图安装tensorflow serving的时候,翻遍了网上的博客和官网文档,安装都是以失败而告终,我也是一样,这个问题折磨了我两个星期之久,都快放弃了.幸运的是在同事 ...
- TensorFlow Serving部署文本分类模型(LSTM+CNN)
项目来源于:https://github.com/NLPxiaoxu/Easy_Lstm_Cnn 使用LSTM的文本分类项目,非常感谢项目贡献者 一.模型序列化 由于有之前项目的经验,这里模型序列化就 ...
- Tensorflow Serving部署tensorflow、keras模型详解
写在篇前 本篇介绍如何使用Tensorflow Serving组件导出训练好的Tensorflow模型,并使用标准tensorflow model server来部署深度学习模型预测服务.tens ...
- Centos系统基于Docker安装tensorflow
要基于Docker安装tensorflow,当然首先要安装Docker了,下面先说安装Docker的步骤 1. 首先卸载电脑上可能存在的老的版本,如果没有安装过可以不执行 $ sudo yum re ...
- win10下基于anaconda利用keras开展16系显卡GTX1650的GPU神经网络计算
win10下基于anaconda利用keras开展16系显卡GTX1650的GPU神经网络计算 虽然安装了双系统,但ubantu的确是不太常用,所以还是尝试一下win10下的GPU神经网络计算.从实践 ...
- Win10下Anaconda3上安装tensorflow教程
Win10下Anaconda3上安装tensorflow教程 大概花费了4-5个小时的时间安装上了基于GPU版本的tensorflow1.3.0(除此之外还有基于CPU的版本),大体安装步骤如下: s ...
- tensorflow/serving部署keras的h5模型服务
当我们使用keras训练好模型之后,下一步就是部署服务了,采用flask直接加载keras的h5模型,服务的并发性能会很低.如果为了追求高并发性能,就可以采用Nginx+gunicorn+gevent ...
最新文章
- 剑指offer:面试题28. 对称的二叉树
- vim 的中文编码问题
- GCD or LCM ---- 处理gcd和lcm同时出现的情况 1499D - The Number of Pairs
- java 时间轮算法_时间轮算法(TimingWheel)是如何实现的?
- 助力APP尽情“撒币”!阿里云正式上线移动直播问答解决方案
- MySQL的基本命令
- 转载:WMS、TMS、OMS、WCS都是什么?
- 语音识别介绍(上篇)
- pythonzip压缩字符串_Python压缩与解压缩ZIP文件的实现方法
- eclipse 中的注释 快捷键
- 类成员函数可以返回该类的实例吗_关于类的理解
- tp3.2.3 命令模式
- 邮箱个性签名html模板,邮箱个人签名 邮箱个人签名模板
- 请问如何制作中国象棋对弈软件的界面部分?
- 自动控制原理(来自于b站的笔记整理,深入理解自动控制框架)
- 简述Linux下三种引号的用法,Linux Shell中有三种引号的用法
- 575. 分糖果【我亦无他唯手熟尔】
- 同时删除Excel表格中多行隔行空白行
- 数学建模——规划模型
- Dev C++下载及使用