無損網路,特指智慧型無損網路,是一種為AI、高性能計算和分散式存儲等套用提供“無丟包、低時延、高吞吐”網路環境的技術概念。其通過AI Ready的硬體架構及智慧型算法實現,關鍵技術包括保障零丟包的PFC和用於擁塞控制的ECN。
為應對All to All通訊模式挑戰,有業界方案提出了DDC架構及相應的無損網路解決方案。該方案採用信元交換技術,旨在提升鏈路負載均衡效率並緩解網路擁塞。該方案亦提供了相關的智慧型無損網路配置功能。此外,亦有企業聯合夥伴基於OSF架構制定DDC標準,以推動網元異構互聯。
技術背景與需求,核心概念與目標,關鍵技術,解決方案與架構實例,套用場景,
技術背景與需求
智慧型無損網路為AI人工智慧、存儲、HPC高性能計算等套用場景提供“無丟包、低時延、高吞吐”的網路環境。
傳統乙太網在All to All通訊模式下存在巨大挑戰,易產生擁塞和丟包。All to All通訊模式對於新一代算力集群的網路規劃是更加巨大的挑戰。
智算集群發展需要網路解決負載均衡、擁塞控制和可靠性問題。高速無損網路正是構建這類集群所必須的前提條件。
核心概念與目標
智慧型無損網路是通過AI Ready的硬體架構及AI智慧型無損算法,為AI人工智慧、存儲、HPC高性能計算等套用場景提供‘無丟包、低時延、高吞吐’的網路環境,加速計算和存儲的效率,為未來的DC數據中心構建統一融合的網路。智慧型無損網路的目標是藉助RoCEv2技術實現前端業務網路、後端計算網路、存儲網路三網Ethernet化統一技術棧統一管理。智慧型無損網路目標提供CNN、DQN等智慧型無損算法,解決網路擁塞,將套用卸載到網路,實現計算和存儲等套用加速。智慧型無損網路目標通過CNN、DQN等智慧型無損算法,實現網路參數自動學習,網路自主調整,以達到零丟包、最高吞吐、最低時延的效果。
關鍵技術
為實現“無丟包、低時延、高吞吐”的網路目標,無損網路依賴於一系列關鍵技術,主要包括流量控制、擁塞控制、流量調度和融合加速等技術類別。流量控制技術是保障網路零丟包的基礎技術,包括目前套用最廣泛的PFC(Priority-based Flow Control,基於優先權的流量控制)、主要解決由PFC風暴引起網路斷流問題的PFC風暴控制,以及通過識別環形快取依賴並破除其產生必要條件從而解決PFC死鎖問題的PFC死鎖破除技術。擁塞控制是指對進入網路的數據總量進行控制,包括ECN(Explicit Congestion Notification,顯式擁塞通知),即流量接收端感知到網路上發生擁塞後通過協定報文通知流量傳送端以降低傳送速率;通過iLossless智慧型無損算法根據現網流量模型進行AI訓練以預測網路流量變化並推理出最優ECN門限的AI ECN;以網路設備為核心、可智慧型識別設備連線埠擁塞狀態並主動傳送CNP(Congestion Notification Packets,擁塞通知報文)報文的NPCC(Network Proactive Congestion Control);以及轉發設備智慧型識別網路擁塞狀況並根據流量接收端返回CNP報文的時間間隔和網卡升速時間間隔主動對CNP報文進行補償傳送的iQCN(intelligent Quantized Congestion Notification)。流量調度技術主要用於解決業務流量與網路鏈路的負載均衡性問題,包括在轉發數據報文時根據流量頻寬大小和負載分擔鏈路中各成員鏈路負載輕重情況來動態選擇合適的鏈路的動態負載分擔,以及用於控制不同佇列之間流量的傳送策略並為不同佇列的流量提供差異化質量保障的佇列調度。融合加速技術旨在實現網路與計算、存儲的協同最佳化,例如可以在網路設備上通過對MPI通信數據的聚合以保障HPC小位元組報文場景低時延效果的網算一體(Integrated Network and Computing, INC)技術,以及通過對接入主機的快速管控將智慧型無損網路套用到存儲系統以實現計算和存儲網路融合的iNOF(Intelligent Lossless NVMe Over Fabric,智慧型無損存儲網路)技術。
解決方案與架構實例
為應對AI智算網路中All to All通訊模式的挑戰,提出了DDC架構及相關的無損網路方案。
DDC架構將數據流打散為固定長度的信元,旨在提高頻寬利用率並實現鏈路負載均衡,以緩解網路擁塞。
該方案採用類似Spine-Leaf的構型,Spine層可使用提供高密度800G連線埠和支持RoCE v2協定的交換機。
測試表明,在All to All流量模型下,基於DDC的RoCE網路性能與InfiniBand網路性能相近。
行業內有基於OSF架構推動DDC標準制定的工作,旨在實現多廠家設備的異構互聯。
