AI服务器市场迎来爆发期!算力赛道上的领军者如何保持优势?

发表时间: 2024-01-06 08:32

当前全球AI布局加速,大量人工智能模型涌现,模型的推出和迭代大幅带动了上游的算力需求。随着国内数字基础建设数据负载量的需求量不断上升,我国AI服务器市场增长加速。

从总体发展趋势来看,各国密集出台大模型相关政策,数据、算力、算法更新迭代步伐加快,共同驱动AI大模型性能提升,AI大模型走出“闭源”和“开源”两种发展路径,各类企业和机构纷纷入局。

以AI服务器为载体的算力则是人工智能的终端体现之一。跟算力联动的存力、运力也会相应提升,从而带动硬件端算力芯片(GPU、FPGA、AISIC等)、存储芯片、光模块、PCB、电源管理、散热等等的硬件取得增长。从未来看,整个产业都会有AI服务器渗透率提升带来的增长。

根据TrendForce,预估2023年AI服务器(包含搭载GPU、FPGA、ASIC等)出货量近120万台,年增38.4%,占整体服务器出货量近9%。

关注乐晴行业观察,洞悉产业格局!

AI服务器行业概览

算力提升直接带动服务器需求。作为解决计算力的核心支撑,AI服务器既可以用来支持本地应用程序和网页,也可以为云和本地服务器提供复杂的AI模型和服务,因而算力作为刚需将直接带动服务器的性能与市场需求提升。

AI服务器采用异构式架构,GPU数量远高于普通服务器。

从服务器上游成本来看,芯片、内存、硬盘几乎占据了服务器生产成本近七成的比例。推理型服务器的GPU占成本的25%,训练型服务器的GPU占整体成本的73%左右。

AI服务器和普通服务器的主要区别在于:架构不同,AI服务器采用CPU+GPU/FPGA/ASIC等异构式架构,而普通服务器一般是CPU架构;GPU数量差别巨大,AI服务器单服务器GPU用量通常在4颗以上。

GPU 架构为主流加速架构,是服务器核心成本构成。GPU采用并行计算,适用于处理密集型运算,如图形渲染、机器学习等场景,AI算力需求的提升推动了GPU卡的运算速度和用量需求进一步增长。

AI服务器相比于一般服务器而言,增量主要在于AI芯片和内存带宽上有较大幅度提升,相应价值量也随之提升,并且其他配套组件也有不同程度的升级。

根据半导体行业观察,以Nvidia DGX H100为例,GPU板组(包含HBM)的价值量占比最高,达到73%,其次是存储占比约5%,其中,DRAM占比3%,NAND占比约2%。综合来看,GPU和存储合计占比90%。

此外,随着算力的提升,散热需求也相应增加,液冷技术的引入有望给散热环节带来新的机遇。

相较于一般服务器而言,AI服务器多增加GPGPU的使用,因此以NVIDIAA10080GB配置4或8张计算,HBM用量约为320~640GB。

未来在AI模型逐渐复杂化的趋势下,将刺激更多的存储器用量,并同步带动ServerDRAM、SSD以及HBM的需求增长。

AI服务器GPU成本占比更大:

AI服务器市场格局梳理

据统计,2022年AI服务器采购量中,北美四大云端供应商Microsoft、Google、Meta、AWS合计占比约66%,海外云巨头对AI服务器的需求更大,但随着国内AI大模型的开发及应用拉动更多AI服务器需求,我国AI服务器市场空间有望进一步提升。

我国近年来AI建设浪潮持续升温,字节跳动年采购占比达6.2%,腾讯、阿里巴巴、百度紧随其后,分别约为2.3%、1.5%与1.5%。

据IDC数据,从市场份额来看,浪潮信息、新华三、超聚变位居2022年我国AI服务器市场前三大份额,市场份额占比分别为28.10%、17.20%、17.00%。

浪潮AI服务器2022年在全球权威AI性能评测竞赛MLPerf中获得49个冠军,以全面领先的AI训练、推理性能表现,为AI研发和应用提供强劲动力,其AI服务器产品已经应用在全球领先的互联网巨头企业以及AI+Science、AI+Graphics、AIGC等领域的领先科技公司,成为全球AI服务器的最大供应商。

浪潮信息英信服务器NF5688M6及配置:

中科曙光是国内领先的高端服务器生产商。公司高端服务器产品全栈自研,拥有大规模部署实践;不断开拓算力服务业务,通过全国一体化算力服务平台加速海量复杂行业应用创新与落地,为国内多个大模型提供算力支持。

AI服务器布局厂商还包括中国长城、拓维信息、同方股份等。上下游环节参与厂商众多,部分代表厂商包括中兴通讯、科大讯飞、海康威视、三六零、澜起科技、龙芯中科、神州数码、海天瑞声、东华软件等。#人工智能##算力##服务器##科技##财经##文章首发挑战赛##来点儿干货#

结语

当前AIGC、云计算等先进技术为各行业带来了巨大的变革和机遇。在这一背景下,超级计算作为支撑大规模数据处理和高性能计算的重要基石,其需求及应用场景也呈现出持续增长的态势。

超级计算与云计算的结合,为服务器市场带来了新的增长点。云计算的弹性、可扩展性等特点,使得超算资源能够更加高效地服务于科研、工业设计、仿真模拟、大数据分析等众多领域。这种结合不仅提升了计算效率,还降低了使用成本,使得更多的机构和企业能够享受到超算带来的便利。

同时,超算所需要的AI高端服务器也成为了服务器市场的新星。AI服务器具备更高的性能、更强的稳定性和更出色的扩展能力,能够满足超算对于计算速度、数据处理能力等方面的严苛要求。随着超算应用的不断普及和深化,这类高端服务器的需求量也将持续攀升,有望拉动整个服务器市场实现进一步增长。

关注乐晴行业观察,洞悉产业格局!