簡介：在醫療保健領域整合與部署人工智慧
VITEC 的任務是在手術室使用的現有視訊處理裝置中整合和部署 AI 模型。該設備使用FPGA技術進行視頻處理。
經過訓練的AI模型執行以下即時輔助功能：
- 檢測手術階段，即時通知護理團隊並提供見解，確保高效的工作流程和手術室的患者安全。
- 自動檢測和排出手術領域的雜質，顯著有助於提高外科手術的無菌性和安全性
醫學實驗室的數據科學家使用自己的可用數據集開發和訓練人工智慧模型，VITEC 的FPGA設計師説明將模型整合並部署到手術室已使用FPGA上的視訊處理設備中。數據科學家使用 FPGA AI Suite 軟體流程將訓練好的 AI 模型轉換為 FPGA AI 推斷 IP，FPGA 設計人員使用標準的 Quartus® Prime 軟體 FPGA 設計流程無縫整合和驗證模型，並將其部署在 Arria® 10 FPGA 上。
視訊已成為手術室的核心，持續為外科醫生提供全新的視訊相關輔助功能。手術室中視訊源和監視器的激增，導致平臺越來越強大，輸入/輸出更多。對HDR格式視頻信號的支持徹底改變了外科醫生在手術過程中可用的圖像品質，並導致了新的實時輔助功能的發展。
挑戰：跨職能協作
其中一項挑戰是FPGA將人工智慧推斷IP整合到現有的視訊處理設備中。視訊處理演演算法必須與 AI 推論 IP 並行執行。因此，VITEC 必須在當前設計的同時實施 AI 推斷 IP，而不影響兩者的功能和效能。
一旦整合了人工智慧推斷IP，就必須對設計進行驗證。主要的挑戰是在兩個團隊之間建立適當的交接流程，以確保醫學實驗室的數據科學家團隊看到的準確性結果與VITEC的FPGA設計團隊在將推斷IP集成到FPGA后看到的結果相符。
解決方案：FPGA AI Suite 彌補了差距
FPGA AI Suite 易於使用，並為Altera FPGA裝置生成按鈕式 AI 推斷 IP。
數據科學家團隊使用OpenVINO™開源工具組和 FPGA AI 套件，將經過訓練的 AI 模型轉換為 FPGA AI 推斷 IP。OpenVINO 是 FPGA AI Suite 的前端，有助於將在任何標準框架（如 PyTorch、TensorFlow 等）中開發的 AI 模型轉換為中間表示 FPGA AI Suite 用來將其轉換為 AI 推斷 IP。
VITEC 利用 Platform Designer 系統整合工具，在 Quartus 中關閉時序，協助將 AI 推論 IP 與FPGA設計其餘部分整合，然後驗證設計。
步驟 1.利用常用的架構建立及訓練他們的 AI 模型。
步驟 2.使用 OpenVINO 工具包優化模型並將其轉換為中間表示 （IR） 數據格式。
步驟 3.使用 FPGA AI Suite 執行快速FPGA效能與邏輯使用量估算，查看模型是否符合目標指標。
步驟 4.如果步驟 3 滿足目標指標，請使用 OpenVINO 運行軟體模擬，以檢查FPGA AI 套件生成的 IP 的準確性。
步驟 5.如果步驟 3 未達到目標指標，請使用 FPGA AI Suite 中的自動優化功能變更 FPGA IP 架構，以實現所需的效能目標和邏輯使用。根據需要進行反覆運算並繼續執行步驟 4。
注意：軟體模擬目前僅適用於 Agilex 5 和 Agilex 3 FPGAs。其他Altera FPGA系列的精度可以通過在硬體中運行設計來確定。
步驟 1.從醫學實驗室數據科學家那裡獲取FPGA AI 套件生成的IP。
步驟 2.使用 Quartus Prime 軟體中的平台設計師工具，將 AI 推斷 IP 與所有其他 IP 區塊和/或自定義 RTL 邏輯整合。使用典型流程完成FPGA設計（合成、佈局佈線、關閉時序、完成模擬、分析功耗等）並生成FPGA比特流。
步驟 3.使用 Quartus Prime 軟體程式設計師公用程式，以全新的 AI 型設計對基於 FPGA 的硬體進行程式設計，以便進一步測試 / 驗證。
視訊處理裝置透過一個 API 控制，該 API 中新增了 AI 推斷 IP 的控制功能和命令。控制功能包括載入網路、配置網路、對來自CPU的圖像執行推理以及檢索結果的能力。對於這兩個應用程式，AI網路通過API載入以進行實時執行。
部署視訊處理設計的Arria 10 FPGA裝置有足夠的未使用資源供 AI 推斷 IP 安裝，因此更容易將 AI 推斷 IP 添加到現有FPGA設計中。數據科學家團隊在 FPGA AI Suite 工具中設定了供 AI 推斷 IP 使用的適當區域目標，並在將架構優化工具交給 FPGA 團隊之前運行了架構優化工具以獲得最佳性能。
整合 AI 推斷 IP 就像在 Quartus 中整合任何其他 IP 一樣。一旦FPGA團隊整合了人工智慧推斷IP，下一步就是驗證設計。這包括檢查 AI IP 是否正確集成並對其運行推斷。測試計劃還包括多個載入/卸載週期、卡初始化/取消初始化以及數十次系統啟動/關閉，以確保系統穩定可靠。
數據科學家提供了帶有 AI 推斷 IP 的標示測試影像。FPGA設計團隊驗證了這些數據的執行。這涉及在測試圖像上反覆運行推理並檢查結果是否始終符合表格。
整合測試計劃還必須確保AI推斷IP的添加不會影響在當前FPGA設計上驗證的現有圖像處理作。測試計劃基於典型用例。
結果：在手術室成功部署
FPGAi 解決方案 的應用程式敏捷性使 工程師能夠製作和發展人工智慧解決方案，通過使用FPGA可再程式設計性、延長產品生命週期和多功能 I/O 選項，保持技術前沿。
VITEC 透過加入強大的人工智慧功能，成功強化其視訊處理設備。這些功能已集成到現有設備和工作流程中，可直接作，並顯著提高外科手術的效率，為現有的基於FPGA的平臺增加價值。
FPGA AI Suite 的單一按鈕 AI 推斷 IP 流程，將數據科學家使用的軟體工作流程與FPGA工程師使用的硬體流程無縫結合到通用的端對端 AI 工作流程中，實現他們之間的高效協作。將 Altera®FPGAs 與軟體流程 搭配 OpenVINO 和 FPGA AI Suite 有助於設計經得起未來考驗，並快速適應新的變化。