浪潮高端AI服务器：8卡“机王”的全面评测（一）

近日，国外权威的服务器专业网站ServeTheHome（简称STH）完成了对浪潮高端AI服务器NF5488M5的首发评测，称“浪潮NF5488M5是一款真正独一无二的产品”。凭借优秀的外观设计、超强的性能表现、卓越的散热设计、独特的管理特性等，NF5488M5获得了9.6分的高分评价，一举成为AI服务器的8卡“机王”。

如下是完整评测报告第一部分硬件概览：

浪潮NF5488M5是一款真正独一无二的产品。尽管许多供应商，都可以宣称拥有搭载8块NVIDIA Tesla V100的系统，但NF5488M5可能是这些系统中，您可以买到的最高端产品。它不仅搭载了8块Tesla V100 SXM3且支持“Volta Next” GPU，TDP达350W以上，并且结构方面也有一定的特别之处。这些GPU利用NVSwitch技术互相连接，这就意味着，每两个GPU之间都有300GB/s的P2P 通信带宽。

在本测评中，我们会比平常多花一些时间讨论硬件，以及它与市场上其他产品完全不同的独特设计。截至2019年4月，浪潮在中国的AI服务器市场份额稳居 51% 以上，而这款产品正是帮助浪潮继续扩大市场份额的创新设计之一。

我们将深入测评该服务器的硬件，因为硬件是解决方案中非常重要的一个方面，也是这款产品的独特之处所在。

首先，我们将简要概述服务器，然后详细介绍GPU基板模组。GPU基板的设计非常独特并且至关重要，因此这里我们想要介绍一下。

浪潮NF5488M5是一款4U服务器，尺寸是448mm x175.5mm x850mm。我们将从机箱前面板开始介绍。这里，我们可以看到两个主要的分隔仓位，底部是 GPU托盘。下面，我们将从顶部约1U的部分开始介绍，它是服务器的CPU主板部分。

我们可以看到前面板I/O和一个管理端口、两个USB 3.0端口、两个用于10GbE 网络的SFP+模块外壳以及一个VGA连接器。

存储空间提供8个2.5英寸热插拔盘位。所有八个盘位都可以使用SATA III SSD，上面四个驱动器可以选择使用U.2 NVMe SSD。

在系统内部，我们还有更多存储空间。在这里，内存插槽旁边的转接卡上有两个 M.2 SATA SSD可以做系统引导盘。这两个M.2系统引导盘使前面板存储盘位可以收纳更多高价值存储数据。

关于内存方面，这款产品是一个采用完整内存配置的双路Intel Xeon可扩展CPU计算系统。也就是说，两个CPU中，每一个分别支持12个DIMM，一共24个DIMM。在这一系列机器中，我们可以看到全新的高端第二代Intel Xeon可扩展CPU。机箱设计专注于优化散热通道，而这里的每U的TPU甚至比服务器中其他部分更低，即使是使用高端CPU和内存配置也是一样。

在解决方案中，我们可以看到提供SATA连接的板载SFF-8643连接器。这张照片右边的散热器是适用于Lewisburg PCH的。

你可能已经注意那些连接器后面的模块。这个模块从后面的电源和配电板为 CPU的主板供电。

机箱背面可以看到一组热插拔模块阵列。模块分为三种基本类型：中间是风扇模块，两侧可以看到电源在上面，I/O 模块在下面。

NF5488M5采用四个3kW高可靠铂金数据中心级电源，实现2+2冗余运行。

在这样的系统中，最容易被忽视但又至关重要的一个特性就是风扇模块。每个模块由两个高效率风扇组成，风扇安装于一个热插拔底座上。由于此4U系统的功耗，这些风扇模块需要可靠地将大量空气排出系统，确保系统持续运行。

这六个风扇模块支持热插拔，并且配有可显示状态的LED状态指示灯。这可以帮助识别可能需要替换的单元。

此外，我们还要重点介绍一下I/O模块。这里，我们有两个模块，每个模块有两个Mellanox Infiniband卡。也就是说，每两个GPU搭配一个Infiniband卡。

模块本身有自己的风扇，还有一个额外的插槽。一个插槽用于后部网络连接，如 10/25GbE。另一侧有一个专门用于传统I/O的插槽。用户可以安装一个适配器并连接USB或其他端口来进行热通道本地管理。

在主板和风扇墙的后面，可以看到一排PCIe线缆。这些线缆将PCIe信号从机箱顶部的主板传输到机箱底部的PCB。浪潮拥有线缆管理解决方案，可确保线缆在使用时不会对流向CPU、内存和其他主板组件的气流造成过多阻碍。

接下来这一张是穿过这些线缆向下看到PCIe Switch的俯视图，可以看到第二个Aspeed AST2520 BMC。主板上也有一个BMC。

每一侧都配有大型散热器。这些散热器覆盖了Broadcom (PLX) PEX9797 97 通道、25端口、PCI Express第3代ExpressFabric Switch。这些都是高端 Broadcom PCIe Switch芯片，用于将系统的各个部分连接在一起。

前面提到的PCIe通道会通过高密度PCIe连接器与GPU基板相连接。

在我们介绍GPU基板之前，您可能已经注意到了这里红色和黑色的粗电线。它们是系统内部的输电线。

后面，我们将更详细地了解与这些PCIe Switch板相连的GPU基板模组。