Cascade Lake

Intel® Xeon® Platinum 8180 處理器提升 1 倍推斷輸送量（2017 年 7 月）基準：依據 Intel 截至 2017 年 7 月 11 日所做之測試：平台：2S Intel® Xeon® Platinum 8180 CPU @ 2.50GHz（28 核心），停用超執行緒，停用渦輪加速，擴充管理員透過 intel_pstate 驅動程式設定為「performance」，384GB DDR4-2666 ECC RAM。CentOS Linux* 版本 7.3.1611 (Core)，Linux 核心 3.10.0-514.10.2.el7.x86_64。固態硬碟機：Intel® SSD DC S3700 系列（800GB，2.5 吋 SATA 6Gb/s，25 奈米，MLC）。效能測量使用：環境變數：KMP_ AFFINITY=’granularity=fine, compact‘, OMP_NUM_THREADS=56，CPU 頻率設定為 cpupower frequency-set -d 2.5G -u 3.8G -g performance。Caffe：(http://github.com/intel/caffe/)，修訂版 f96b759f71b2281835f690af267158b82b150b5c。推斷以「caffe time --forward_only」指令測量；訓練以「caffe time」指令測量。對於「ConvNet」拓撲，使用綜合資料集。對於其他拓撲，在訓練前，資料儲存於本機儲存裝置上，並在記憶體中快取。拓撲規格來自於 https://github.com/intel/caffe/tree/master/models/intel_optimized_models (ResNet-50)，與 https://github.com/soumith/convnet-benchmarks/tree/master/caffe/imagenet_winners（ConvNet 效能標竿；更新檔案以使用較新的 Caffe prototxt 格式，但是在功能上同等級）。Intel® C++ 編譯器版本 17.0.2 20170213，Intel® 數學核心程式庫小型程式庫版本 2018.0.20170425。Caffe 以「numactl -l」 執行。

運用 Intel® Deep Learning Boost (Intel® DL Boost) 的 Intel® Xeon® Platinum 8280 處理器，提升 14 倍推斷輸送量：依據 Intel 截至 2019 年 2 月 20 日所做之測試。2 插槽 Intel® Xeon® Platinum 8280 處理器，28 核心，開啟超執行緒，開啟渦輪，總記憶體 384 GB（12 插槽/ 32GB/ 2933 MHz），BIOS：SE5C620.86B.0D.01.0271.120720180605 (ucode: 0x200004d)，Ubuntu 18.04.1 LTS，核心 4.15.0-45-generic，SSD 1x sda INTEL SSDSC2BA80 SSD 745.2GB，nvme1n1 INTEL SSDPE2KX040T7 SSD 3.7TB，深度學習框架：Intel® Optimization for Caffe* 版本：1.1.3（認可雜湊：7010334f159da247db3fe3a9d96a3116ca06b09a），ICC 版本：18.0.1，MKL DNN 版本：v0.17（認可雜湊：830a10059a018cd2634d94195140cf2d8790a75a，模型 https://github.com/intel/caffe/blob/master/models/intel_optimized_models/int8/resnet50_int8_full_conv.prototxt，BS=64，syntheticData，4 執行個體/2 插槽，Datatype：INT8 vs。依據 Intel 截至 2017年 7 月 11 日所做之測試：2S Intel® Xeon® Platinum 8180 CPU @ 2.50GHz（28 核心），停用超執行緒，停用渦輪加速，擴充管理員透過 intel_pstate 驅動程式設定為「performance」，384GB DDR4-2666 ECC RAM。CentOS Linux* 版本 7.3.1611 (Core)，Linux 核心 3.10.0-514.10.2.el7.x86_64。固態硬碟機：Intel® SSD DC S3700 系列（800GB，2.5 吋 SATA 6Gb/s，25 奈米，MLC）。效能測量使用：環境變數：KMP_AFFINITY=’granularity=fine, compact‘，OMP_NUM_THREADS=56，CPU 頻率設定為 cpupower frequency-set -d 2.5G -u 3.8G -g performance。Caffe：(https://github.com/intel/caffe/)，修訂版 f96b759f71b2281835f690af267158b82b150b5c。推斷以「caffe time --forward_only」指令測量；訓練以「caffe time」指令測量。對於「ConvNet」拓撲，使用綜合資料集。對於其他拓撲，在訓練前，資料儲存於本機儲存裝置上，並在記憶體中快取。拓撲規格來自於 https://github.com/intel/caffe/tree/master/models/intel_optimized_models/resnext_50，Intel® C++ 編譯器版本 17.0.2 20170213，Intel® MKL 小型程式庫版本 2018.0.20170425。Caffe 以「numactl -l」 執行。

這是在內部進行測試的作業系統清單，不代表作業系統廠商支援這些確切的發行版本。如需發行版本編號與支援，請聯絡各別的作業系統廠商。一些軟體修補程式會被上傳並隨時間被取用。必須這麼做才能提升平台支援的品質。

Intel 僅針對作業系統上本公司的工具、修補程式和公用程式提供支援。實際的作業系統支援須洽詢作業系統廠商。