根据Omdia数据,全球服务器市场2023年第3季度的总收入同比下降7%,同比下降1%季度环比 (QoQ) 达到255亿美元。
通用服务器的出货量显着放缓,顶级原始设备制造商感受到了宏观经济逆风和投资重点变化的压力。
需求疲软主要体现在企业和通信服务提供商领域。
服务器的使用寿命处于历史最高水平,现在一般企业都使用使用了 7 年的服务器并延迟更新。
为AI配置的服务器部署正在增长,与Omdia的预测一致。
NVIDIA 2023年第三季度数据中心收入为145亿美元(同比增长近四倍)。
这向我们表明,正如预期的那样,NVIDIA在第三季度出货了近50万颗H100和A100 GPU。预计这一数字将在第四季度突破50万大关。
在云服务提供商细分市场中,高度配置的人工智能服务器的部署正在抵消通用服务器更新的延迟。
但在企业和通信服务提供商细分市场中,情况并非如此,因为服务器OEM一直在努力从 NVIDIA获得足够的GPU分配。
服务器OEM表示,配置NVIDIA H100 GPU的服务器的交货时间为36-52周。
随着高成本人工智能服务器渗透率的不断增长,通用服务器的更新至少要推迟到2024年,第三季度服务器出货量同比下降26%。
预计2023年全年服务器出货量为1140万台,比2022年下降19%。
在2024年更新周期中,预计将发生重大服务器整合,多台已安装的服务器将被一台新服务器取代。
这是通过更高核心数的 CPU 和以应用程序优化为中心的新服务器架构来实现的。
预计2027年服务器市场价值将达到1956亿美元。
由于向超异构计算(即具有许多协处理器的应用程序优化服务器配置)的发展,服务器处理器和协处理器的份额正在增加。示例包括:
运行人工智能训练和推理的服务器
大型语言模型训练最流行的服务器配置是NVIDIA DGX服务器,配置有8个H100/A100 GPU
亚马逊的 AI 推理服务器配置16个定制协处理器(称为 Inferentia 2)
具有许多定制协处理器的视频转码服务器
Google 的视频转码服务器有20个定制协处理器(称为VCU)
Meta的视频处理服务器有12个定制协处理器(称为Meta Scalable Video Processor)
Omdia预计,这种趋势只会随着某些应用程序的需求成熟到能够以经济高效的方式构建优化的定制处理器的规模而增长。
媒体和人工智能是超异构计算的早期受益者,但预计数据库和Web服务等其他工作负载也会看到类似的优化推动。