Andromeda Cluster

Andromeda Cluster是一個由投資人支持建立，為初創企業提供人工智慧計算服務的算力網路或計算集群。該系統最初被報導擁有2512個H100圖形處理器（GPU），能夠在大約10天內訓練出一個650億參數的人工智慧模型。其資源主要面向其投資組合內的企業提供。根據相關描述，該集群後來由成千上萬的H100、H200和B200等型號的GPU搭建而成，支持實驗、全規模訓練或推理等多種計算任務。

建設背景

Andromeda Cluster由GitHub前執行長Nat Friedman和Daniel Gross建立，用於支持計算密集型初創企業。該集群由超4000塊圖形處理器搭建而成。

Anthropic的聯合創始人Jack Clark表示，個人投資者在支持計算密集型初創企業方面所做的工作超過了大多數政府。

技術配置

Andromeda Cluster的硬體配置已從最初的2512個H100 GPU擴展至由超過4000塊圖形處理器搭建而成，其型號包括H100、H200和B200。該系統曾能夠在大約10天內訓練出一個650億參數的人工智慧模型。

集群支持通過Slurm、Kubernetes (K8s) 或直接SSH到節點進行編排和管理，可以快速啟動。數據可以本地存儲在NAS（如Weka或Vast）上，或採用流式輸入，且無數據流入/流出費用。

其服務內容包括DevOps相關支持與全天候運維保障，並包含服務水平協定（SLA）。

服務與用途

Andromeda Cluster 主要面向其投資組合內的初創企業提供算力，可用於實驗、全規模訓練或推理。