标题摘要内容
【会员动态】副会长单位 | Gooxi AMD Milan平台4U8卡AI服务器,兼具性能与成本的完美之选
来源: | 作者:AI君 | 发布时间: 2024-09-22 | 527 次浏览 | 分享到:
近日,为了帮助企业从容应对当下多样化场景的算力挑战,Gooxi发布了基于AMD Milan平台的全新4U8卡AI服务器,在性能以及成本实现了完美平衡,并且在灵活性、稳定性、能耗方面实现了持续升级。


Gooxi AMD Milan平台4U8卡AI服务器是一款4U支持2颗AMD Milan/Rome处理器和8张双宽GPU卡,面向人工智能、云计算、虚拟化、大数据分析、数字孪生等多种应用场景的GPU服务器。它不仅是一款存储容量大、扩展能力强、高可靠、易管理、易部署的全能型选手,更是目前市场上最具性价比的4U8卡方案,是兼具成本和性能的理想选择。



基于AMD平台优势,多核心,超线程


得益于AMD Milan平台大核心以及多线程的优势,Gooxi AMD Milan平台4U8卡AI服务器实现了内存带宽翻倍,其PCIe Gen4 4.0平台能够完美适配各品牌AI加速卡。


Gooxi AMD EPYC Milan平台4U8卡AI服务器同样兼容Rome平台CPU,涵盖入门级的16核到性能强大的128核型号,有效满足不同的算力、性能以及预算需求。因而它是一款全能型选手,具备从基本任务到复杂的数据密集型任务的任何能力,能够广泛涵盖图形渲染、虚拟化、到人工智能语言模型训练应用场景等。


采用CPU-GPU直连通信效率更高,NCCL更优


众所周知,AMD CPU的一大优势在于其大核心和多线程技术,即使是三代的AMD CPU核心数都能与Intel四代相抗衡。而恰巧8卡GPU服务器需要大量的PCIe通道,AMD EPYC 7003/7002系列CPU的PCIe通道足够多,能够满足各种新型负载对通信通道的严格要求。

Gooxi AMD Milan平台4U8卡AI服务器可以提供多达载 19*8 个 PCIe4.0 MCIO,以及2个SLimline 4i,直连8个双宽、全高全长的PCIe 4.0 x16显卡之余,还可以留出一些PCIe通道给NVMe和OCP网卡等其他设备,最大限度提升CPU与GPU间的带宽,降低通信延迟,达到最佳效能,为客户提供极致优化的算力。

内部配置了32个DDR4内存插槽,最大容量可达8TB。支持12个3.5/2.5寸SATA/SAS/U.2硬盘配置,满足高速传输与数据存储需求。

NCCL(NVIDIA Collective Communications Library)是NVIDIA提供的用于GPU加速的后端通信库,主要用于在多个GPU之间进行数据传输和通信。基于NCCL(集合通信库),不同类型的GPU之间就能实现互通互联、数据同步。而根据有效测试数据显示,Gooxi AMD Milan平台4U8卡AI服务器,内存效率高(基于成本和耗电),卡间通信性能更好,能够提高GPU通信效率,降低大模型训练时效,加速推理应用快速落地。

性价比之王 系统更为稳定


基于AMD本身自带的成本优势,Gooxi AMD EPYC Milan平台4U8卡AI服务器是目前市场上最具性价比的4U8卡方案。


其次,它支持4个电源模组,可以提供1600W~3200W功率的80 PLUS铂金电源模块,效率高达94%,可选3+1冗余或者2+2冗余,多种组合的冗余电源设计,充分考虑了不同配置AI服务器的负载情况,保障稳定性。

12个6056(23000±10%RPM)热插拔N+1冗余风扇可保证机器在高环温下稳定工作。

支持BMC远程管理,智能远程故障判断、智能故障隔离、保障产品7*24小时高效稳定运行。