马斯克宣布,再买42万颗GPU

公众号记得加星标⭐️,第一时间看推送不会错过。 SpaceX旗下的AI算力基础设施建设,正在进一步提速。 当地时间10月31日,埃隆·马斯克(Elon Musk)披露了Colossus 2数据中心的最新建设进展。除了此前已经部署的Macroharder和Minihard两大计算集群,SpaceX还在建设两个新的计算集群,分别命名为Gun Range和Spam,计划新增约42万颗英伟达GB300 GPU。 按照马斯克披露的信息,Gun Range将配置约22万颗GB300,采用与Macroharder、Minihard相同的训练集群配置,预计11月底投入运营。Spam则计划部署约20万颗GB300,主要用于AI推理,预计12月投入运营。 如果这两个集群按计划建成,Colossus 2将进一步扩大其在全球AI算力基础设施领域的规模。 值得注意的是,这次扩建并不只是简单地增加GPU数量。马斯克特别提到了一个细节:虽然Gun Range和Spam都将部署数十万颗GB300,但由于两者承担的任务不同,其网络架构也将存在明显差异。 这也折射出超大规模AI数据中心建设的一个重要趋势:训练和推理,正在推动算力基础设施走向不同的配置路线。 42万颗GB300,两个新集群即将上线 先来看两个新集群的具体配置。 根据马斯克的介绍,目前Macroharder和Minihard两个集群均配置了约22万颗GB300 GPU,并采用800Gbps网卡,主要用于AI模型训练。 即将建设完成的Gun Range将沿用这一配置,同样部署约22万颗GB300,并采用800Gbps网络配置,预计在11月底投入运营。 相比之下,Spam的定位有所不同。 这一集群计划部署约20万颗GB300,主要承担AI推理任务。马斯克表示,由于推理集群的网络架构相对简单,Spam所需的光纤数量不到训练集群的一半。 从这组数据来看,SpaceX并没有简单地将所有GPU集群按照同一种方式建设,而是根据训练和推理的不同需求,对网络基础设施进行差异化配置。 另外,Spam这个名字也有一个有意思的来历。马斯克透露,该建筑此前曾用于存放美国肉类加工企业Hormel Foods的产品,因此沿用了Spam这一名称。Gun Range则来自当地警察部门此前使用的射击场,SpaceX收购了相关场地。 两个名字背后,实际上都是SpaceX通过改造既有建筑、加快数据中心建设进度的一个缩影。 训练与推理,网络需求为何差异如此之大? 这次披露中,最值得关注的其实不是42万颗GPU,而是训练集群与推理集群在网络配置上的差异。 对于大规模AI模型训练而言,GPU之间需要进行大量的数据交换和同步。尤其是在数十万颗GPU组成的分布式训练集群中,计算任务会被拆分到不同GPU和服务器上执行,随后还需要通过高速网络交换梯度、参数及其他中间数据。 这意味着,GPU之间的通信效率会直接影响整个集群的训练效率。即使单颗GPU拥有很强的计算能力,如果网络带宽不足、通信延迟过高,也可能出现GPU等待数据、计算资源无法充分利用的情况。 因此,大规模训练集群不仅需要大量GPU,还需要与之匹配的高速网络、交换设备和光纤互连系统。Macroharder和Minihard采用800Gbps网卡,Gun Range也将沿用相同配置,正是这一思路的体现。 推理集群则有所不同。 模型训练需要大量GPU协同完成计算,而推理主要是利用已经训练好的模型处理用户请求。虽然大规模推理同样可能涉及多GPU协同、模型并行以及节点之间的数据交换,但其通信模式取决于模型部署方式、服务架构和负载特征,并不一定需要完全复制训练集群的网络配置。 例如,在采用模型副本部署的场景下,不同推理实例可以相对独立地处理请求,跨节点通信需求与大规模分布式训练有所不同。 这也解释了为什么马斯克强调,Spam虽然计划部署约20万颗GB300,但网络架构可以简单得多,光纤用量不到训练集群的一半。 当然,光纤数量减少并不意味着推理集群不需要高速网络。随着模型规模扩大、上下文长度增加,以及推理服务向多节点部署发展,推理侧的网络性能同样会成为重要的系统设计因素。 从这个角度看,SpaceX的建设方案体现了一个值得关注的方向:AI数据中心正在从单纯追求GPU数量,转向根据不同工作负载优化计算、存储和网络之间的配置关系。 Colossus 2,向120万颗Blackwell迈进 把这次扩建放到Colossus 2整体建设进度中来看,规模就更加惊人了。 今年9月,马斯克曾披露Colossus 2的GPU部署情况。当时,该数据中心已经拥有约11万颗GB200和44万颗GB300,并计划继续分批增加GB300。 SpaceX在2026年6月提交的欧盟招股说明书中,也披露了Colossus 2此前的建设速度:

about image