LabVIEW+OpenVINO 讓你的YOLOv5在CPU上飛起來

本文轉(zhuǎn)載自 OpenVINO 中文社區(qū)

OpenVINO是英特爾針對自家硬件平臺開發(fā)的一套深度學習工具庫，用于快速部署應(yīng)用和解決方案，包含推斷庫，模型優(yōu)化等等一系列與深度學習模型部署相關(guān)的功能。

特點：

1、在邊緣啟用基于CNN的深度學習推理

2、支持通過英特爾?Movidius?VPU在英特爾?CPU，英特爾?集成顯卡，英特爾?神經(jīng)計算棒2和英特爾?視覺加速器設(shè)計之間進行異構(gòu)執(zhí)行

3、通過易于使用的計算機視覺功能庫和預先優(yōu)化的內(nèi)核加快上市時間

4、包括對計算機視覺標準（包括OpenCV *和OpenCL?）的優(yōu)化調(diào)用

5、通俗易懂點說想要在intel-cpu或者嵌入式上部署深度學習模型，可以考慮考慮openvino。

 可在如下鏈接中下載OpenVINO版工具包；

安裝方式可參考：LabVIEW AI視覺工具包（非NI Vision）下載與安裝教程中CPU用戶的安裝 

 下載地址：英特爾? Distribution of OpenVINO? 工具套件 

1）點擊Dev Tools

2）選擇版本，選擇如下版本，并DownLoad：

3）下載后，安裝即可

4）可以選擇安裝路徑，具體安裝可以參考官方文檔：https://docs.openvino.ai/cn/latest/openvino_docs_install_guides_installing_openvino_windows.html

 

三、模型獲取

openvino工作流程，和其他的部署工具都差不多，訓練好模型，解析成openvino專用的.xml和.bin，隨后傳入Inference Engine中進行推理。這里和上一篇博客一樣可以使用export.py導出openvino模型：python export.py --weights yolov5s.pt --include openvino

當然這里已經(jīng)為大家轉(zhuǎn)換好了模型，大家可以直接下載，下載鏈接：YOLOv5 OpenVINO IR模型

四、LabVIEW+OpenVINO調(diào)用Yolov5進行實時物體識別

1

實現(xiàn)過程

•  dnn模塊調(diào)用IR模型（模型優(yōu)化器）

• 設(shè)置計算后臺與計算目標設(shè)備（推理引擎加速）

• 獲取輸出端的LayerName

• 圖像預處理

• 推理

• 后處理

• 繪制檢測出的對象

 

2

程序源碼

 

3

識別結(jié)果  

CPU模式下，使用openvino進行推理加速，實時檢測推理用時僅95ms/frame，是之前加載速度的三分之一 

注意：

1.必須安裝含openvino字眼的labview工具包

2. readNetFromModelOptimizer.vi中IR模型路徑不可以包含中文

  

四、附加說明：計算機環(huán)境

操作系統(tǒng)：Windows10

python：3.6及以上

LabVIEW：2018及以上 64位版本

視覺工具包：techforce_lib_opencv_cpu_openvino2021-1.0.0.61.vip

OpenVINO：2021.4.2