联系人:穆丹
邮箱:mfwang@nuogeng.com.cn
电话:15998860693
地址: 北京朝阳区民族园路2号3幢5层501内5034室
| 品牌 |
联想 |
型号 |
WA7780 G3 |
| CPU类型 |
Sapphire Rapids |
内存类型 |
DDR5 |
●澎湃算力
联想问天 WA7780 G3 AI 大模型训练服务器基于第四代英特尔 ® 至强 ® 可扩展处理器。NVIDIA HGX H800 系统配备 8 颗 H800 NVLink®GPU,拥有高达 640GB 的 HBM3 高速显存,通过 NVLINK®, GPU 间互联带宽高达 400GB/s。将 AI 算力提升了 3.44 倍,至高可达 32P FLOPS AI 算力。NVIDIA H800 GPU 匹配第四代 Tensor Core 配合 Transformer 引擎(FP8 精度),与上一代产品相比,可为大模型 AI 训练速度带来高达 9 倍提升,可将大模型 AI 推理速度提升高达 30 倍。
●灵活架构
联想问天 WA7780 G3 AI 大模型训练服务器,为了满足 AI 超大模型训练场景下,GPU 服务器间高速数据通信的需求,支持 IB、RoCE 等多种对外网络连接方案。可以支持 8 张 RDMA 高速网卡,提供 3.2Tb / s 聚合带宽。充分满足了超大模型训练并行计算时,跨节点的通信需求。同时,在本地存储的设计上,采用了 GPU Direct Storage (GDS) 技术。通过 GDS 技术,GPU 与 NVMe 实现了快速低延迟互联,能够有效提高训练数据载入的速度,提升大模型训练的性能。
●节能高效
联想问天 WA7780 G3 AI 大模型训练服务器,在产品设计中采用了三重独立风道设计,针对不同部件的散热特征,进行了系统性的优化,有效降低了由风扇带来的散热功耗。相比同级别产品,联想问天 WA7780 G3 AI 大模型训练服务器功耗降低约 10%。同时,为了满足未来智算中心对 PUE 值更低的要求,本产品预留了液冷冷板设计,未来将支持液冷,这将大幅度节省在 AI 大模型训练过程中,因系统散热带来的额外能耗,PUE 值有望低于 1.1。
联想问天 WA5480 G3 AI 训推一体服务器:多元丰富,稳定可靠
从机器视觉、推荐系统,自然语言处理,再到更为复杂的 AI 大模型,不同 AI 应用场景对于 AI 服务器有着不同要求。本次发布会一同亮相的联想问天 WA5480 G3 AI 训推一体服务器,是联想问天品牌中的一款 4U 机架式 AI 服务器,支持多元的算力和丰富的生态,能够为 AI 模型的训练推理提供可靠的算力,加速人工智能在千行百业的落地,从而推动各行业乃至整个社会的智能化变革进程。