研發背景
隨著AI硬體和套用的普及,UL Solutions在2023年為Windows平台推出了首款Procyon AI推理基準測試,隨後於2024年3月25日,為Procyon基準測試套件新增了基於
Stable Diffusion模型構建的AI圖像生成測試。該AI圖像生成基準測試包含SD1.5和
SDXL兩個版本,對硬體顯存有不同要求,旨在為測量高端硬體的AI性能提供一致、準確的工作負載。
此外,UL Solutions還通過其基準測試開發計畫與行業夥伴合作,以確保測試的準確性和公正性。
發展歷程
2024年3月25日,UL Solutions為Procyon基準測試套件新增了基於
Stable Diffusion模型的AI圖像生成基準測試。該測試旨在為高端硬體提供一致、準確的AI性能測量負載。它包含Stable Diffusion 1.5(SD1.5)和
Stable Diffusion XL(SDXL)兩個版本。該基準測試支持Intel® OpenVINO™、NVIDIA® TensorRT™、ONNX® runtime with DirectML™等推理引擎。
UL Solutions持續擴展UL Procyon基準系列,增加更多基準測試和測試選項,並與行業合作夥伴緊密合作以確保測試的精確性、相關性和公正性。基準測試開發計畫(BDP)是UL Solutions與科技公司合作開發公正、針對性基準測試的舉措。
核心技術
UL Procyon基準測試套件提供一系列基準和性能測試,每個測試都針對特定用例設計,並儘可能使用實際套用。套件中的所有測試都有一個共同的設計和功能集,可便利地、一致地測量PC和移動硬體的性能。
其AI推理測試涵蓋MobileNet V3、Inception V4、YOLO V3、DeepLab V3、Real-ESRGAN和ResNet 50等神經網路模型。AI圖像生成基準測試以
Stable DiffusionAI模型為基礎構建,包含SD1.5和
SDXL兩個版本以提供不同性能層級的測量負載。
測試程式支持多種主流的AI推理引擎,包括Intel OpenVINO、NVIDIA TensorRT、ONNX runtime with DirectML、Microsoft Windows ML等,用戶可在不同引擎間切換以比較性能。默認情況下,程式會為被測系統硬體自動分析並選擇或推薦最優的推理引擎。
首次運行AI圖像生成等測試時,程式會從伺服器下載相應的AI模型並在本地進行最佳化和快取,導致首次運行時間較長,後續測試則直接使用本地最佳化版本。運行SD1.5測試需要顯示卡至少具備8GB顯存,而運行
SDXL測試則需要至少16GB顯存。
套件依託於Testdriver基準測試自動化平台,支持基於雲的遠程測試、監控和多地點PC系統性能管理,實現配置簡單、集中控制和自動化報告。UL Solutions通過“基準測試開發計畫(BDP)”與行業科技公司合作,共同開發測試負載,BDP成員可深入了解工作負載甚至原始碼,並參與基準測試開發的每個階段。
運營模式
UL Procyon提供Testdriver基準測試自動化平台,該平台旨在幫助IT管理員遠程測試和監控多個地點的PC系統,實現集中化與雲端控制。
UL Solutions設立了基準測試開發計畫(BDP),旨在與科技公司合作開發公正、有針對性的基準測試,BDP成員可深入了解工作負載及原始碼。
UL Procyon基準測試套件主要面向企業級和行業用戶,包括消費電子零售商、硬體製造商、企業IT、媒體及公共部門等。
部分高級測試套件需付費訂閱;同時,UL Solutions為符合資格的公共部門組織提供基準測試許可證。
核心團隊
UL Procyon基準測試套件由UL Solutions開發並運營。
2023年2月3日,UL Solutions與聯想集團聯合打造的全球首家UL Procyon基準測試聯合實驗室在上海聯想創新科技園舉行了授牌儀式。
重要事件
2024年3月25日,UL Solutions為UL Procyon基準測試套件新增AI圖像生成基準測試。該測試基於Stable Diffusion AI模型構建,包含Stable Diffusion 1.5 (SD1.5)和Stable Diffusion XL (SDXL)兩個不同負載的測試。旨在為測量高端硬體的AI性能提供一致、準確的工作負載。該基準支持在Intel® OpenVINO™、NVIDIA® TensorRT™、ONNX® runtime with DirectML™等多個推理引擎間切換,並默認選擇硬體的最佳引擎。
2023年2月3日,UL Solutions與聯想集團聯合打造的全球首家UL Procyon基準測試聯合實驗室在上海聯想創新科技園正式授牌成立。