TRUSTA AI Scaler Toolkit

TRUSTAAI Scaler Toolkit是威剛旗下企業級存儲品牌TRUSTA開發的一款AI工具包,於2026年1月2日通過新聞發布。

該工具包旨在將AI推理工作負載對存儲容量的部分需求從xPU本地記憶體卸載到系統記憶體乃至固態硬碟上,以降低本地AI部署的成本。威剛旗下企業級存儲品牌TRUSTA在CES 2026上首次展示該工具包。該工具包採用軟體定義架構,可將大語言模型推理過程中的部分負載進行卸載,以便在GPU、DRAM與SSD之間實現更靈活的資源調度,從而加速AI部署效率。

基本介紹

  • 發布日期:2026年1月2日
  • 品牌:TRUSTA
  • 目標:降低本地AI部署成本
  • 類型:AI工具包
  • 首次展示:CES 2026
功能特點,套用優勢,開發背景,發布與展示,

功能特點

TRUSTA AI Scaler Toolkit能夠將AI推理工作負載的部分存儲需求從xPU本地記憶體轉移到系統記憶體或固態硬碟。
該工具包採用軟體定義架構,能夠卸載大語言模型(LLM)推理過程中的部分負載,並在 GPU、DRAM和 SSD 之間進行資源調度。

套用優勢

該工具包通過將AI推理工作負載對存儲容量的部分需求從xPU本地記憶體卸載到系統記憶體乃至固態硬碟上,有效降低了本地AI部署的成本。此外,該方案採用軟體定義架構,可將大語言模型(LLM)推理過程中的部分負載進行卸載,以便在GPU、DRAM與SSD之間實現更靈活的資源調度,從而加速AI部署效率,提高整體算力利用率。

開發背景

威剛旗下企業級存儲品牌TRUSTA開發了TRUSTA AI Scaler Toolkit。該工具包的開發旨在解決本地AI部署中對高容量記憶體的需求,通過將AI推理工作負載對存儲容量的部分需求從xPU本地記憶體卸載到系統記憶體乃至固態硬碟上,從而降低部署成本。

發布與展示

TRUSTA AI Scaler Toolkit於2026年1月2日通過新聞發布。威剛旗下企業級存儲品牌TRUSTA在CES 2026上首次展示該工具包。

相關詞條

熱門詞條

聯絡我們