TensorServer

TensorServer是浪潮集團旗下的AI品牌，產品配置300GB/s的吞吐量。

基本介紹

• 外文名：TensorServer
• 所屬企業：浪潮集團

主要特點

TensorServer，旨在為客戶交付具備強自適應、高效加速、靈活拓展的AI基礎架構能力。

管理套件

AGX-2：全球首款在2U空間內高速互聯集成8顆最高性能GPU加速器的伺服器。AGX-2具備拓撲的靈活性可支持NVIDIA NVLink和PCIe兩種GPU互聯方案，採用NVIDIA NVLink時可提供GPU間高頻寬低延遲互聯以及高達300GB/s的吞吐量。AGX-2具備良好的I/O擴展能力，提供8塊NVMe/SAS/SATA熱插拔硬碟,可支持最多4塊100Gbps的EDR InfiniBand接口卡的高速集群互聯。搭載32GB記憶體的NVIDIA Tesla V100的AGX-2記憶體容量比現有產品實現了翻倍，在AI訓練上實現了計算性能的進一步提升。

框架最佳化

浪潮Caffe-MPI，全球首個集群並行版的Caffe深度學習計算框架，浪潮於15年發布Caffe-MPI深度學習計算框架，代碼已在Github上開源，其保留了伯克利版本Caffe架構的優良特性，同時又針對高性能計算系統設計使之具備良好的並行擴展性。最新版本Caffe-MPI在4節點16塊GPU卡集群系統上訓練性能較單卡提升13倍，其每秒處理圖片數量是同配置集群運行的TensorFlow 1.0的近2倍。Caffe-MPI設計了兩層通信模式：節點內的GPU卡間通信及節點間的RDMA全局通信，這極大降低了網路通信的壓力。