生成式AI的热潮席卷了千行百业,越来越多的企业意识到新一代AI技术所带来的颠覆式变革,动辄千亿、万亿级参数的大模型迭代越来越快速,数据规模急速攀升,背后则是对IT基础设施的考验,数据中心朝着智能化、绿色化的方向迈进,相应的计算、存储、网络架构也要持续演化,先进内存的不断创新就是颇具代表性的例子。“随着人工智能应用的发展,客户将需要更高带宽的内存和性能。”Rambus内存互连芯片业务部门产品营销副总裁John Eble表示。
Rambus内存互连芯片业务部门产品营销副总裁John Eble
近年来DDR5内存的市场渗透率逐步提升。根据Yole Group的报告,DDR5内存模块和DIMM芯片组的市场规模,将从2022年的约420亿美元增长到2028年的约960亿美元。未来,DDR5将在数据中心、人工智能和高性能计算等领域发挥更加重要的作用。随着DDR5内存逐渐走向双通道,DDR5 RDIMM架构中的数据流通道比特率是32,再加上8位的ECC,可以在连接器上更好的支持存储、吞吐量和内存性能的需求。
以主机端的DDR5双通道RCD为例,其运行速度与DRAM相同,每个引脚(下图所示)的开关频率比DDR4高出一倍多。DDR5的每通道最高频率速度达到8400MT/s,JEDEC则表示在DRAM的规格中,上述速度可以达到8800MT/s。
显然,更高的数据传输速率(裕度)至关重要。这些数据信号所需的连接器引脚数量的增加,以及主电源电压从1-1.2伏降至1.1伏,使得专用电源管理IC的出现,可以对电压进行更精准的控制。在DDR5模块中,增加了PMIC和相关的无源组件,通过将电源管理集成到内存模块(DIMM)上,主板可以为内存模块提供单一的高电压电源。由内存模组上的PMIC向模组提供输入高压12V电源,避免了通过模块连接器从主板向内存模组组件输出如1V的电压,大幅降低了输电网络上的电阻(IR)下降问题。根据不同应用场景的性能需求,还可以对不同组件和每个DIMM和模组上需要的电压进行单独的编程。
上述模块的一侧设置了四个金手指用于12伏输入电源,配有四个开关降压调节器,其中两个采用双相配置,还有两个低压差调节器,为模块上的各种组件产生了共五个不同的电压供应和电压水平。PMIC可以针对其所在的特定模块进行调整,随着用户增加内存容量,能够以递增的方式为服务器添加电源管理。
为了获得更高的数据传输速率,DDR5需要更严格且精准的电压范围,在电源配置变化的情况下,其需要非常低的噪音,并在较低电压下保持可靠性。DIMM的设计遵循通用工程实践,即提供单路高压、低电流电源轨,并尽可能靠近使用点。实施过程中,通过将PMIC放在模块上,除了对输出电压进行精准控制,还能以特定模块的方式进行设置。此外,可以在增加容量的同时,更好地扩展电源管理资源,减少系统的过度设计。当然,在设计过程中还要解决散热、功率完整性、抗干扰、噪声、可靠性等挑战。
前不久,Rambus推出了全新DDR5服务器电源管理IC(PMIC)系列,包含适用于高性能应用的超高电流电源器件。由此,Rambus为模块制造商提供了完整的DDR5 RDIMM内存接口芯片组,支持广泛的数据中心用例。服务器端的DIMM内存需要经过独立设计,要在有限的空间内容纳PMIC和相连的外部元器件,并且要留出一定的空气通道进行散热。作为一个高度集成的单芯片解决方案,PMIC的输出轨集中在单芯片解决方案上,轨数精确,省去了额外的开销。此外,稳压器的开关频率也经过优化,以适应特定区域内的电感器尺寸。Rambus的设计不仅体现了芯片设计与微调解决方案之间的协同优化,还凸显了电感器、电容器和稳压器带宽的共同设计的重要性。
Rambus DDR5服务器PMIC系列包含符合JEDEC超高电流(PMIC5020)、高电流(PMIC5000)和低电流(PMIC5010)规范的产品。其中,Rambus PMIC5020将使未来几代DDR5 RDIMM的性能和容量达到新的基准。这一全新的Rambus服务器PMIC芯片产品系列与Rambus DDR5 RCD、SPD Hub和温度传感器IC一起组成一个完整的内存接口芯片组,适用于各种DDR5 RDIMM配置和用例。
JEDEC定义了三种不同的PMIC,针对不同的电流输出水平。它们共享相同的封装尺寸、引脚布局,大多数寄存器集相同,每种设计的电源效率都针对其目标应用的预期电流水平进行了优化。其中,极高电流的PMIC5020的目标是约30安培的最大持续直流电流,是三种服务器PMIC中最新定义的,Rambus是首家提供样品的公司。该PMIC针对的是最高带宽和最高容量的模块;高电流PMIC5000支持的最大持续直流电流大约为20安培,这款特定的PMIC针对标准到四阶模块,容量为64GB、96GB和128GB;低电流PMIC5010面向容量较低的市场,支持的最大持续电流约为12安培。
“Rambus提供完整的DDR5 RDIMM芯片组,对于我们的客户、客户的用户,以及整个生态系统的推动来说,是多赢的。针对DDR5 RDIMM完整芯片组,我们经过了预先验证,可以带给客户具有经过验证的互操作性和非常优秀的时序、功率优化,并且有着足够稳健的供应链供给。”John Eble进一步谈到,“这种统一的来源支持,可以帮助客户减少需要经过额外验证合格的组件,直接就可以通过这些已被验证的模块和组件搭建成组合矩阵,减少交付和在实际安装、调试等方面需要耗费的时间和精力。
早在2016年,Rambus就开始了DDR5生态的拓展,这种努力在AI爆发的时代迎来了广阔的机遇,能够助力超大规模和企业数据中心的强劲算力需求,满足客户对新的内存功能、模块化设计、更高级的工作负载等多种场景。这一过程中,中国市场也扮演着关键的角色。Rambus大中华区总经理苏雷介绍称:“我们会通过与内存上下游合作伙伴的紧密协同工作,通过利用Rambus内存产品方面的经验和积累去服务好中国市场,可以说,我们拥有高性价比的产品和‘Turn-key’保姆式的服务。”
Rambus大中华区总经理苏雷
据了解,在客户产品布局阶段,Rambus会通过全球的业务视野和深耕行业标准组织的经验,与客户分享新产品定义的业界状态、演进的方向和发展的建议;在产品设计阶段,Rambus提供DDR5的内存接口芯片系列产品,具有高性能,能够确保信号完整性、电源完整性的设计裕度,可以帮助解决模组制造商解决DDR5设计相关的技术挑战;在产品研发问题定位阶段,Rambus的全自研模式可以快速找到问题所在,缩短客户产品上市时间;在产品量产阶段,Rambus的产品有着颇具竞争力的价格,可以帮助模块制造商快速抢占市场。
“我们非常重视中国市场,以及中国市场的内存生态建设,并积极参与其中。通过提供高效、优质的产品和全面、细致的技术服务与行业经验,来践行‘in China for China’的理念,最终实现和客户的成长与共赢。”苏雷说。
(8800913)