基本介紹
- 發布日期:2026年1月2日
- 品牌:TRUSTA
- 目標:降低本地AI部署成本
- 類型:AI工具包
- 首次展示:CES 2026
功能特點,套用優勢,開發背景,發布與展示,
功能特點
TRUSTA AI Scaler Toolkit能夠將AI推理工作負載的部分存儲需求從xPU本地記憶體轉移到系統記憶體或固態硬碟。
套用優勢
該工具包通過將AI推理工作負載對存儲容量的部分需求從xPU本地記憶體卸載到系統記憶體乃至固態硬碟上,有效降低了本地AI部署的成本。此外,該方案採用軟體定義架構,可將大語言模型(LLM)推理過程中的部分負載進行卸載,以便在GPU、DRAM與SSD之間實現更靈活的資源調度,從而加速AI部署效率,提高整體算力利用率。
開發背景
威剛旗下企業級存儲品牌TRUSTA開發了TRUSTA AI Scaler Toolkit。該工具包的開發旨在解決本地AI部署中對高容量記憶體的需求,通過將AI推理工作負載對存儲容量的部分需求從xPU本地記憶體卸載到系統記憶體乃至固態硬碟上,從而降低部署成本。
發布與展示
TRUSTA AI Scaler Toolkit於2026年1月2日通過新聞發布。威剛旗下企業級存儲品牌TRUSTA在CES 2026上首次展示該工具包。
