Deploy a trained model

2021-07-27 13:03:29 阅读：203 来源： 互联网

标签：serving Deploy 模型 predictions json trained model class

本次教程的目的是带领大家学会用 Tensorflow serving 部署训练好的模型

这里我们用到的数据集是 Fashion MNIST，所以训练出来的模型可以实现以下几个类别的分类

'T-shirt/top', 'Trouser', 'Pullover', 'Dress', 'Coat',
               'Sandal', 'Shirt', 'Sneaker', 'Bag', 'Ankle boot'

因为这篇教程主要关注部署，所以我们直接从已经训练好的模型开始，保存的格式是 SavedModel，如上图所示

在这之前呢，我们需要先安装好 tensorflow_model_server

接下来我们可以在控制台执行以下指令，就可以启动一个 serving 服务了，我们可以通过 REST API 进行请求，并返回预测结果

import requests
headers = {"content-type": "application/json"}
json_response = requests.post('http://localhost:8501/v1/models/fashion_mnist:predict', data=data, headers=headers)

predictions = json.loads(json_response.text)["predictions"]

show(0, "The model thought this was a {} (class {}), and it was actually a {} (class {})".format(class_names[np.argmax(predictions[0])], np.argmax(predictions[0]), class_names[test_labels[0]], test_labels[0]))

上图是通过请求，然后预测得到的结果，到此，我们实现了模型的 Tensorflow serving 的部署

代码链接: https://codechina.csdn.net/csdn_codechina/enterprise_technology/-/blob/master/tensorflow_serving.ipynb

标签：serving,Deploy,模型,predictions,json,trained,model,class
来源： https://www.cnblogs.com/XianxinMao/p/15065225.html

本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享；
2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关；
3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关；
4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除；
5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。

ICode9

Deploy a trained model