英伟达公布 Vera Rubin 最新进展：推理、网络和定制芯片全面升级

英伟达在Hot Chips大会上披露AI基础设施多项进展，围绕Vera Rubin平台构建完整AI工厂体系。推理加速器Groq 3 LPX已全面量产，Nebius为首家采用者，该芯片专攻Token生成速度，在10万Token上下文下每秒输出3400个Token，响应速度可达同类平台4倍。Spectrum-X以太网引入多平面架构，将服务器网络拆分为独立平面，无需增加第三层网络即可扩展至51.2万颗GPU，单平面故障时仍保留约90%带宽，硬件恢复速度比软件方案快11倍。Scale-In由BlueField-4和DOCA支持，将安全、存储访问和运维从主机侧分离至独立硬件加速域。NVLink Fusion将云厂商自研XPU和CPU接入英伟达机架体系，支持72个XPU互连域，端到端延迟降至通用以太网方案的三分之一，能效最高达PCIe接口6倍。英伟达表示，未来AI系统性能由计算、网络、存储和运维共同决定，竞争边界已从单一GPU扩展至整座AI工厂。