跳到主要內容
支援知識庫

執行多個程式時,OpenVINO™推斷時間增加

內容類型: 產品資訊與文件   |   文章 ID: 000058227   |   最近查看日期: 2023 年 06 月 06 日

環境

UbuntuOpenVINO 2021.2

描述

執行兩個程式推斷相同模型時,推斷時間會加倍。

  • 使用OpenVINO™推斷模型。
  • 執行單一程式時,推論時間約為 300ms。
  • 使用兩個程式時,兩個程式的推斷時間會變成 600 毫秒。

解決方法

  1. main.cpp腳本中加入下列命令。

    ie.SetConfig({ { CONFIG_KEY(CPU_BIND_THREAD), "NO" } }, "CPU")

  2. 建立 示範。

額外資訊

  • KEY_CPU_BIND_THREAD設定的預設值為 YES。
  • 在 Linux*上,這會導致兩個程式結合到相同的 CPU 核心,並將推斷時間加倍。
  • 從 Windows* 和 Linux* 上的 CPU 核心將KEY_CPU_BIND_THREAD設定為無卸載推斷線程。

如需 CPU 外掛程式的組態參數的詳細資訊,請參閱 支援的組態參數

相關產品

本文章適用 2 產品。

停產產品

適用於邊緣的 Intel® Developer Cloud

免責聲明

這個頁面的內容綜合了英文原始內容的人工翻譯譯文與機器翻譯譯文。本內容是基於一般資訊目的,方便您參考而提供,不應視同完整或準確的內容。如果這個頁面的英文版與譯文之間發生任何牴觸,將受英文版規範及管轄。 查看這個頁面的英文版。