99科技给大家分享各类生活学习资讯!
您现在的位置是: 首页 > 智能硬件 > 微软与英伟达在B200 GPU部署上产生分歧:微软坚持定制服务器机架

微软与英伟达在B200 GPU部署上产生分歧:微软坚持定制服务器机架

6月22日消息,媒体The Information的爆料引发了业界的广泛关注。据报道,微软计划向英伟达采购最新的Blackwell B200 GPU,以进一步提升其云服务的数据处理能力和效率。然而,由于双方在服务器机房安装方式上存在分歧,这一合作一度陷入了僵局。

微软与英伟达在B200 GPU部署上产生分歧:微软坚持定制服务器机架

英伟达作为 AI 领域的霸主,不断瓜分数据中心的这块大蛋糕。黄仁勋在公开演讲中多次强调,英伟达公司不再考虑以单个 GPU 方式出售,而是将整个 NVL72 机架视为一个 GPU 推广销售。

DGX GB200 系统机柜分三大类,分别是 DGX NVL72、NVL32、HGX B200 ,其中 DGX NVL72 是该系列中单价最高、算力最强的 AI 系统,内置 72 颗 B200 GPU 及 36 颗 Grace CPU,配备 9 台交换器,整机设计由 NVIDIA 主导且不能修改,但 ODM 厂商可以自己设计 I / O 及以太网连接系统。

NVL72 完善提供一体水冷散热方案,可实现总计 720 petaflops 的 AI 训练性能或 1,440 petaflops(又称 1.4 exaflops)的推理性能。它内部使用电缆长度累计接近 2 英里,共有 5000 条独立电缆。

微软与英伟达在B200 GPU部署上产生分歧:微软坚持定制服务器机架

根据汇丰银行(HSBC)提供的数据,配备 36 个 GB200 超级芯片(18 个 Grace CPU 和 36 个增强型 B200 GPU)的 Nvidia GB200 NVL36 平均售价可能为 180 万美元,而配备 72 个 GB200 超级芯片(36 个 CPU 和 72 个 GPU)的 Nvidia GB200 NVL72 售价可能在 300 万美元(备注:当前约 2172 万元人民币)左右。

微软与英伟达在B200 GPU部署上产生分歧:微软坚持定制服务器机架

对于英伟达来说这种销售方式明显更为有利,不仅能获得更高的收入,而且“标准化”用户安装 B200 GPU 的方式。

英伟达表示正在推动客户购买单个机架甚至整个 SuperPods,提供“一条龙”全套服务,官方认为这样可以提高 GPU 性能。

不过在实际部署中,微软并不认可英伟达的部署方式。援引该媒体报道,英伟达公司副总裁安德鲁?贝尔(Andrew Bell)要求微软为其新的 B200 GPU 购买专用的服务器机架设计,其外形尺寸与微软数据中心现有的服务器机架差了几英寸。

微软不认可英伟达的建议,认为如果采用英伟达的服务器机架方案,那么就无法轻松切换英伟达的 AI GPU、AMD 的 MI300X GPU 等相关产品。

双方的“摩擦”最终以英伟达的妥协告终,英伟达最终让步,让微软为其 B200 AI GPU 设计自己的定制服务器机架,但这可能不是两家巨头之间的最后一次分歧。

HMD Fusion模块化手机前瞻:高通QCM6490芯片

2024/6/22 14:10:18

HuggingFaceCEO:AI初创公司创始人表现出强烈的出售意愿

2024/6/22 14:54:19