标签：OpenVINO img 服务化 django shape import path Server out
为了能够将OpenVINO在服务器的推断结果可以被外部调用，需要构建相应的django服务构建。经过一段时间努力，成功搭建。这里整理出的是一些基本的设置方法，细节比较多，不一定能够全面涵盖。最终调用的方法，可以直接测试：1、打开地址：http://81.68.242.86:8000/upload
2、选择并上传图片，完成后回显地址（需要消耗一定时间）：
3、需要手工粘贴，而后显示处理后的结果。比如上图就改为“http://81.68.242.86:8000/medias/111038jzs1zz11sx11snj6.jpg.result.jpg”，注意由upload改为medias
一、Django环境构建
1、在管理员权限下，直接可以使用pip进行安装。
pip3 install django
如果网络正常，那么可以通过
pip3 show django
查看django版本和django安装路径：
2、创建一个django project
在空文件夹下，使用以下命令创建django project
django-admin.py startproject mysites
我们可以使用vscode来查看，其中较为关键的几成都项：
 | manage.py ----- Django项目里面的工具，通过它可以调用django shell和数据库等。settings.py ---- 包含了项目的默认设置，包括数据库信息，调试标志以及其他一些工作的变量。urls.py ----- 负责把URL模式映射到应用程序。 |
需要注意的是，这里的几个py都是行使管理权限的。
3、在mysites目录下创建应用(app)
python3 manage.py startapp goApp
这新建一个goApp的实际项目，这个实际的项目是可以被启动的。
4、启动django项目
python3 manage.py runserver 8080
这样，我们的django就启动起来了。当我们访问http://127.0.0.1:8080/时，可以看到
如果以上工作全部能够成功，那么证明Django的下载安装是成功的，下面我们来具体理解其相关内容。
这里需要注意，如果需要外部IP访问，这样设置：python manage.py runserver 0.0.0.0:8000
如果再出现“Invalid HTTP_HOST header”
解决方法：
修改settings.py
ALLOWED_HOSTS = ['192.168.2.157','127.0.0.1']值为'*'，可以使所有的网址都能访问Django项目了，失去了保护的作用，可以用于测试
ALLOWED_HOSTS = ['*']比如，这样运行
python3 manage.py runserver 0.0.0.0:8080二、文件结构和各种作用
manage.py文件位于整个项目的最外层，是该项目的项目管理器，通过不指定命令运行，可以发现它具备以下功能。
比如，我们在上面使用过的：
创建应用：python3 manage.py startapp goApp
启动项目：python3 manage.py runserver 8080wsgi.py:全称 webserver getway interface，即Web服务器的网关接口
urls.py:即路由配置
django下所有的页面都需要urls文件中配置一下，否则在访问的时候会找不到该文件。
settings.py:
配置文件，各种路径、国际化、debug、模版等均在此文件中配置。
2.3、简单示例
我了进一步加速对相关知识的理解，我们创建一个最为简单的程序，它能够实现的就是读取并显示当前系统OpenCV版本。我们需要改写以下文件：
url控制器 url.py
from django.contrib import admin
from django.urls import path
from goApp import views
urlpatterns = [
path('admin/', admin.site.urls),
path('index/',views.index),
]视图 view.pyfrom django.shortcuts import render
from django.http import HttpResponse
import cv2
def index(request):
return HttpResponse(cv2.__version__ )
以上代码中，标红的部分代表是新添加的，代码修改后，djangon会自动更新。运行结果如下：
需要注意到，goApp是我们新创建的app的名称，这里相当于在主目录中，引用我们的新编模块。如果能够运行到这一步，那么证明OpenCV相关的引入工作已经没有问题。三、算法融合，构建django服务构建我们从最简单的情况，一步一步来实现。（需要进一步总计当前的算法细节）3.1 添加新路由，修改url.pyfrom django.contrib import adminfrom django.urls import path,register_converter,re_pathfrom django.conf.urls import urlfrom goApp import viewsfrom django.conf import settingsfrom django.conf.urls.static import staticfrom django.views.static import serve
urlpatterns = [ path('admin/', admin.site.urls), path('index/',views.index), path('upload/', views.upload), # 上传图片 path('process/',views.process),
url(r'^process_detail/(.+)/$',views.process_detail), url(r'^medias/(?P<path>.*)$', serve, {'document_root':'/root/mysites/goApp/upload/'}), ]
其中，upload是显示界面；process_detail是单图片处理页面，medias是图片显示页面。3.2 算法主要在goApp中实现
主要算法，实现在view.py中from django.shortcuts import renderfrom django.http import HttpResponsefrom django.conf import settingsfrom django.shortcuts import redirect, reverse#from .models import User,Articlefrom datetime import datetimeimport argparseimport cv2import datetime
import grpcimport numpy as npimport osimport sysimport hashlib
from tensorflow import make_tensor_proto, make_ndarrayfrom tensorflow_serving.apis import predict_pb2from tensorflow_serving.apis import prediction_service_pb2_grpcsys.path.append('/root/mysites/goApp')from client_utils import print_statistics
classes_color_map = [ (150, 150, 150), (58, 55, 169), (211, 51, 17), (157, 80, 44), (23, 95, 189), (210, 133, 34), (76, 226, 202), (101, 138, 127), (223, 91, 182), (80, 128, 113), (235, 155, 55), (44, 151, 243), (159, 80, 170), (239, 208, 44), (128, 50, 51), (82, 141, 193), (9, 107, 10), (223, 90, 142), (50, 248, 83), (178, 101, 130), (71, 30, 204)]
def load_image(file_path): img = cv2.imread(file_path) # BGR color format, shape HWC img = cv2.resize(img, (2048, 1024)) img = img.transpose(2,0,1).reshape(1,3,1024,2048) return img
def index(request): #users = User.objects.all() #article = Article.objects.all() return render(request,'index.html')
def upload(request): if request.method == 'GET': return render(request, 'upload.html') else: name = request.POST.get('name') pic = request.FILES.get('avator') #media_root = settings.MEDIA_ROOT # media media_root = '/root/mysites/goApp' allow_upload = settings.ALLOW_UPLOAD # ALLOW_UPLOAD #path = 'upload/{}_{}_{}/'.format(datetime.datetime.now().year,'{:02d}'.format(datetime.datetime.now().month), '{:02d}'.format(datetime.datetime.now().day)) path = 'upload/' full_path = media_root + '/' + path if not os.path.exists(full_path): # 判断路径是否存在 os.makedirs(full_path) # 创建此路径 # 要不要改图片的名字 生成hash # 这块要不要判断图片类型 .jpg .png .jpeg # '/../../../myviews/setting.py' print(pic) print(full_path) print(full_path+pic.name) if pic.name.split('.')[-1] not in allow_upload: return HttpResponse('fail') with open(full_path + '/' + pic.name, 'wb') as f: for c in pic.chunks(): # 相当于切片 f.write(c) #User.objects.create(name=name, avator=path + pic.name) #return redirect('index.html') #return HttpResponse(full_path+pic.name) return process_detail(request,full_path+pic.name)
def process(request): options = [('grpc.max_receive_message_length', 100 * 1024 * 1024),('grpc.max_send_message_length', 100 * 1024 * 1024)] channel = grpc.insecure_channel("{}:{}".format('localhost',9000),options = options) stub = prediction_service_pb2_grpc.PredictionServiceStub(channel) batch_size = 1 #TODO files = os.listdir('/root/mysites/goApp/images') print(files) imgs = np.zeros((0,3,1024,2048), np.dtype('<f')) for i in files: img = load_image(os.path.join('/root/mysites/goApp/images', i)) imgs = np.append(imgs, img, axis=0) # contains all imported images iteration = 0
for x in range(0, imgs.shape[0] - batch_size + 1, batch_size): iteration += 1 request = predict_pb2.PredictRequest() request.model_spec.name = "semantic-segmentation-adas" img = imgs[x:(x + batch_size)] #print("\nRequest shape", img.shape) request.inputs["data"].CopyFrom(make_tensor_proto(img, shape=(img.shape))) start_time = datetime.datetime.now() result = stub.Predict(request, 10.0) # result includes a dictionary with all model outputs print(img.shape) output = make_ndarray(result.outputs["4455.1"])
for y in range(0,img.shape[0]): # iterate over responses from all images in the batch img_out = output[y,:,:,:] print("image in batch item",y, ", output shape",img_out.shape) img_out = img_out.transpose(1,2,0) print("saving result to",os.path.join('/root/mysites/goApp/results',str(iteration)+"_"+str(y)+'.jpg')) out_h, out_w,_ = img_out.shape #print(out_h) #print(out_w) for batch, data in enumerate(output): classes_map = np.zeros(shape=(out_h, out_w, 3), dtype=np.int) for i in range(out_h): for j in range(out_w): if len(data[:, i, j]) == 1: pixel_class = int(data[:, i, j]) else: pixel_class = np.argmax(data[:, i, j]) classes_map[i, j, :] = classes_color_map[min(pixel_class, 20)] output_str = os.path.join('/root/mysites/goApp/results',str(iteration)+"_"+str(batch)+'.jpg') cv2.imwrite(output_str,classes_map) return HttpResponse(output_str) def process_detail(request,param1): options = [('grpc.max_receive_message_length', 100 * 1024 * 1024),('grpc.max_send_message_length', 100 * 1024 * 1024)] channel = grpc.insecure_channel("{}:{}".format('localhost',9000),options = options) stub = prediction_service_pb2_grpc.PredictionServiceStub(channel) batch_size = 1 #TODO filepath output_str='filepath' imgfile = os.path.join('/root/mysites/goApp/images',param1) print(imgfile) img = load_image(imgfile) imgs = np.zeros((0,3,1024,2048), np.dtype('<f')) imgs = np.append(imgs, img, axis=0)
request = predict_pb2.PredictRequest() request.model_spec.name = "semantic-segmentation-adas" print("\nRequest shape", img.shape)
img = imgs[0:1] request.inputs["data"].CopyFrom(make_tensor_proto(img, shape=(img.shape))) result = stub.Predict(request, 10.0) # result includes a dictionary with all model outputs print(img.shape) output = make_ndarray(result.outputs["4455.1"])
for y in range(0,img.shape[0]): # iterate over responses from all images in the batch img_out = output[y,:,:,:] print("image in batch item",y, ", output shape",img_out.shape) img_out = img_out.transpose(1,2,0) print("saving result to",os.path.join('/root/mysites/goApp/results',param1+'.result.jpg')) out_h, out_w,_ = img_out.shape print(out_h) print(out_w) for batch, data in enumerate(output): classes_map = np.zeros(shape=(out_h, out_w, 3), dtype=np.int) for i in range(out_h): for j in range(out_w): if len(data[:, i, j]) == 1: pixel_class = int(data[:, i, j]) else: pixel_class = np.argmax(data[:, i, j]) classes_map[i, j, :] = classes_color_map[min(pixel_class, 20)] output_str = os.path.join('/root/mysites/goApp/results',param1+'.result.jpg') cv2.imwrite(output_str,classes_map) return HttpResponse(output_str) 3.3 在template 中添加两段html用于界面显示
<!DOCTYPE html><html lang="en"><head> <meta charset="UTF-8"> <title>OpenVINO Model Server的服务化部署（天空分割模型）</title></head><body><form action="/upload/" method="post" enctype="multipart/form-data"> {% csrf_token %} 图片：<input type="file" name="avator"><br> <input type="submit" value="提交"></form></body></html>前段编写的时候，细节很多，这里无法一一重复。四、服务器标准重启命令
1、启动docker
[root@VM-0-13-centos /]# docker run -d -v /models:/models:ro -p 9000:9000 openvino/model_server:latest --model_path /models/model2 --model_name semantic-segmentation-adas --port 9000 --log_level DEBUG --shape auto
2、启动django
[root@VM-0-13-centos mysites]# python3 manage.py runserver 0.0.0.0:8000
3、浏览器中输入：http://81.68.242.86:8000/index/ 进行测试
也可以输入 http://81.68.242.86:8000/process_detail/sky20.jpg/ 进行带参数调试来自为知笔记(Wiz)
附件列表
标签：OpenVINO,img,服务化,django,shape,import,path,Server,out 来源： https://www.cnblogs.com/jsxyhelu/p/13878335.html
本站声明： 1. iCode9 技术分享网（下文简称本站）提供的所有内容，仅供技术学习、探讨和分享； 2. 关于本站的所有留言、评论、转载及引用，纯属内容发起人的个人观点，与本站观点和立场无关； 3. 关于本站的所有言论和文字，纯属内容发起人的个人观点，与本站观点和立场无关； 4. 本站文章均是网友提供，不完全保证技术分享内容的完整性、准确性、时效性、风险性和版权归属；如您发现该文章侵犯了您的权益，可联系我们第一时间进行删除； 5. 本站为非盈利性的个人网站，所有内容不会用来进行牟利，也不会利用任何形式的广告来间接获益，纯粹是为了广大技术爱好者提供技术内容和技术思想的分享性交流网站。