FPGAi
加速自定義解決方案的 AI 啟用。 瞭解 FPGAi 如何使您能夠在自定義解決方案中啟用和部署 AI,以實現持續創新所需的低延遲、能源效率和敏捷性。
善用 Altera FPGA 成為全新 AI 時代的領導者
融合FPGAs與人工智慧不僅僅是一場進化,更是一場革命。
Altera 正在透過高效能和注入 AI 的FPGA結構,開啟 FPGAi 的新時代。我們緊密整合的可程式化邏輯與人工智慧可實現實時數據適應與自主決策,使系統有能力實現新一代的複雜性。
為什麼要FPGAs AI
AI 工作負載變得越來越複雜和苛刻,因此選擇合適的硬體進行 AI 加速至關重要。瞭解 FPGAs 如何為 AI 應用程式提供強大而靈活的解決方案。
FPGAi 應用案例
邊緣 AI
FPGAs尤其適用於各種工業、醫療、測試與測量、航太、國防和廣播應用中的邊緣 AI。整合式 Arm 處理器、Nios® V 軟處理器,以及支援邊緣多樣化數據的多樣化 IO 通訊協定,再加上確定性的低延遲、低功耗和長壽性,讓 FPGAs 在邊緣獲得額外的優勢。
GenAI 或自定義
Agilex™ 7 FPGA M 系列可用於基於變壓器的自定義 LLM 推斷,在功率和尺寸上均優於 GPU。
32 GB HBM2E 可提供 820 GBps,並以 224 GBps 的速度提供高達 512 GB DDR5,是 LLM 和 KV 快取的理想選擇。高速 SERDES (116 Gbps)、800 GbE 支援和 PCIe 5.0 (64 GBps) 確保快速擴展和數據傳輸。裝置的可變精度 DSP 支援 AI 推理友好型格式,例如 FP16、bfloat16 和 INT8。Hyperflex™ 架構支援 500MHz+ 作業,可實現快速 AI 推斷。
AI 附加
憑藉 800 GbE 支援,可為 AI 集群建立者設計量身定製的解決方案,其中 FPGAs 充當 FPGA AI NIC,以減少訓練或推斷期間 GPU 的數據攝取抖動和網路擁塞。支援用於橫向縮減和橫向擴展的自定義和開放標準選項。
FPGAs非常適合 AI 預處理,即數據經過格式化和篩選,以便有效地用於 AI 訓練或推斷。
FPGAs可以加速私有企業資料庫,實現快速數據檢索。
解決方案功能:高效能 FPGA
Agilex™ 7 FPGA M 系列具有 89 INT8 TOPS、封裝內 HBM2e 記憶體容量(32GB 和 820Gbps 帶寬),以及強化的 DDR5/LPDDR5 記憶體控制器(支援 5600MBP),減輕了記憶體受限 AI 模型(如基於生成式 AI LLM 的轉換器模型)的瓶頸。
Agilex™ 5 FPGA裝置具有多達 56 個 INT8 TOP,採用首款注入 AI 張量區塊的 FPGA 結構,可提供更高的計算密度。張量區塊可在一個時鐘週期內執行 20 次 BlockFP16 或 INT8 乘法累加運算,因此運算密度比 Agilex FPGA 產品群組中的其他裝置高出 5 倍。
開發人員可用性:FPGA資源的無縫預訓練模型轉換和自動優化
FPGA AI Suite 可以使用OpenVINO將預先訓練的模型按鈕轉換為 AI 推斷 IP。該套件的自動優化工具可掃蕩設計空間,以實現 AI 模型的最佳實施。
FPGA AI Suite IP 的軟體模擬可透過OpenVINO外掛程式介面存取,無需硬體即可快速評估FPGA AI IP的準確性(僅適用於 Agilex™ 5 FPGA)。
FPGA AI Suite 整合了 Quartus® Prime 設計軟體和平台設計器,可簡化 AI 推斷 IP 的整合。
應用程式敏捷性:實現持續創新
工程師可利用裝置1 可重新程式設計、延長的產品生命週期和多功能 I/O 選項來實現持續創新和適應,FPGAs打造和發展人工智慧解決方案,以保持在技術的前沿。
FPGAs天生就適合 AI。FPGAs數以千計的 DSP 區塊、記憶體層次結構和廣泛的 I/O 支援,允許從頭開始定製設計和構建 AI 網路,以實現最佳效能。
各種規模的 AI 模型都能高效實施,從節能的 TinyML 到邊緣的大中型模型,以及數據中心的 GenAI LLM Transformer 模型。