突破一: 提供极致的AI算效
算力需求激增下,AI大模型训练中海量的参数使显存和算力都面临巨大的挑战,传统模型中以单卡解决全量计算需求已经不太现实。此外,单个计算设备已经不能满足AI大模型训练的需求,需并行训练。如何提供极致的AI算效?中兴通讯展示的全栈智算方案——新旗舰高密AI服务器基于OLink开放交换互联协议和自研交换芯片打造超节点,算力高密度、规模易扩展、互联大带宽,为大模型并行训练提供高效算力支撑。
面向海量用户的推理业务中,要重点关注用户的响应时延、成本、算效等。在确定的业务场景下,需要优化以提供极致的推理性能。这些都是目前的挑战。据悉中兴通讯提供多样化推理资源池,支持多厂家GPU和主流大模型,基于AI Booster智算平台实现推理业务智能分发,软硬件协同优化,助力用户实现低时延、低成本高效推理。
综上可见,中兴通讯提供最优性能、最佳性价比的AI算力,模型训练及推理效率大幅提升,缩短开发周期,使各种智能应用可更快的部署到实际场景。
突破二: 异构智算提升算力资源利用率
突破三: 满足更高性能和更大规模的算力需求
AI大模型的数据量和参数量持续快速扩张,使智算中心网络面临严峻的挑战。有数据显示,网络层0.1%丢包可导致50%算力损失,1次训练中断会增加4 h的训练时长。
此外,大模型从早期的张量并行、数据并行和流水线并行等分割方式快速演进到更高级的并行方法,对网络级负载均衡提出了更高的要求。
据悉,中兴通讯大容量盒盒、框盒,单层多轨 RoCE解决方案,灵活支持从百卡到万卡级的智算集群网络建设,并通过创新的全局均衡调优iGLB和端网协同ENCC算法,支持高达98%的全网吞吐效率和µs级快速流量拥塞调优,有效提升大模型训练的效率,为智算领域的发展提供强有力的支撑。
突破四: 解决了智算生态系统融合的问题,更好的服务于产业
企业在AI应用开发过程中普遍存在开发效率低、成本高、模型一致性低、可靠性差以及模型部署时间长,亟需提升开发效率并降低开发成本。中兴通讯eMIG模型迁移套件可实现从CUDA生态向类CUDA生态的模型无感迁移;开放模型仓库支持多模型入驻,让用户做到大模型按需随选。
智算建设成本高,更多的算力转化为实际价值并形成商业闭环,亟需更小型、训推并举的设备。中兴通讯AI一体机降低了硬件准入门槛,用户以此可快速搭建智算应用系统。此外,软硬开放解耦让设备和平台考虑兼容设计,使算力服务性价比最佳。
让专业的人做专业的事,中兴通讯还打造了训推解耦的智算方案及架构,推进能力组件化,共建共赢的产业生态圈。
为了加快AI在企业的普及和应用,需要抓住对企业影响最大的关键要素,聚焦关键场景,加速价值变现。据悉中兴通讯全自研编程大模型位列业界编码模型第一梯队,助力研发在需求、设计、编码、测试的全流程AI提效;更加智能的数字星云3.0,助力行业伙伴多快好省应用AI,目前星云行业大模型已在企业运营、生产制造、城市生命线、园区安全等多个场景应用,充分彰显了智能化的核心价值。
突破五: 让智算更绿色
在上述四大突破下,智算应用必然持续爆发,智算中心的算力密度必然会快速增长,由此带来功率密度的急剧攀升,给节能带来极大挑战。散热越来越趋向于液冷,需在确保可靠性和易维护的同时,提升散热效率。针对智算中心高能耗、高密、多元算力融合的痛点,中兴通讯提供高效节能的间接蒸发冷却空调、冷板式液冷、浸没式液冷全景制冷方案,覆盖20kW-240kW不同功率密度,支撑打造极效数智底座。
突破六: 极大增强运营商在智算互联和算网协同方面的独特优势
智算中心正在从千卡、万卡迈向十万卡,单体智算中心难以满足日益增长的算力需求,分布式多智算中心协同训练是大势,多智算中心之间需要更大带宽互联、µs级确定时延及高可靠调度。重大突破是,今年PT展现场展示了全球首个超2000公里IP 400GE广域确定性现网试点。该试点是中兴通讯作为业界唯一在芯片(全自研芯片)内置EDN功能的厂商,与紫金山实验室及未来网络集团合作完成的,突破传统网络在远距离传输中面临的时延与抖动难题,是未来网络技术发展新标杆。
突破七: 领航更强万兆接入网,让智算更普惠
PT展期间我们观察到中兴通讯正在持续全力为支撑运营商打造从地面到低空到高空的“泛在”高商业价值5G-A无线网。
在地面,通过多维进阶技术,打造面向Rel-18的5G-A万兆网络,为个人和行业带来全新体验;从流量经营到体验经营,端到端智能体协同打造体验经营新能力,助力运营商实现5G-A商业变现。
在高空,星载设备在研,与地面网络基站共享主要芯片的星载基站首次亮相,5G-A空天地一体展示了中兴通讯在NTN标准协议下的卫星技术创新成果,推动卫星互联网新发展。
在低空,低空经济是5G的下半场,运营商加快建设低空立体连续覆盖的网络基础设施。助力低空经济早日进入万亿时代,据悉中兴通讯依托5G-A通感算智一体化技术,构建低空智联网。通过超级张角自发自收通感基站,以用户为中心的分布式超大阵列D3-ELAA,以AI智算为基础的感知目标精准识别等创新方案,实现低空飞行器泛“联”,易“管”,为低空经济高质量发展修筑数字“天路”。
中兴通讯高级副总裁及首席战略官王翔表示,要实现低空经济的聚力腾飞,需做到“四可”:一是场景可用,通过深入挖掘和拓展低空应用场景,促进业务的规模化、普遍化;二是技术可达,持续研发创新,不断突破技术瓶颈,降低成本,提升效率;三是商业可行,构建合理的商业模式,形成长期可持续的商业闭环,确保低空经济的健康发展;四是安全可控,建立健全安全保障体系,确保低空活动的安全进行,为低空经济提供坚实的后盾。针对这四点,中兴通讯愿与业界伙伴携手合作,共同探索低空经济的新机遇,共谱低空经济新篇章。
此外,运营商FTTR业务ToC与政企市场正进入高度拓展期,光接入网络开始向万兆演进,FTTR上联OLT的光连接需要向50G PON演进,通过50G PON为用户提供万兆光纤接入。
一是在接入侧,面向万兆时代的新一代智能光接入旗舰产品C600H具有大带宽、内生智算、刚性管道和工业级高可靠性等卓越特性,提供T比特级槽位带宽,支持16端口50G PON线卡的线速转发,并具备向下一代200G PON演进的能力,同时兼容C600系列线卡,支持GPON或EPON三代全兼容方案,可重用现有ODN基础设施,实现ONU按需升级,保护运营商现网投资。
二是在用户侧,推出了业界首款AI带屏FTTR系列产品RoomPON 6.0,这是针对未来数智家庭需求设计的新一代AI FTTR产品,大幅提升了连接、存储、算力、泛屏四个关键领域的性能,为智慧家庭提供全光支撑平台,标志着对智慧家庭价值的全面提升。
综上可见中兴通讯在万兆光接入领域的业界领先水平。据悉全球多达50多家运营商正与中兴通讯开展50G PON应用合作,充分验证50G PON在不同应用场景下的可行性和成熟度,并探讨更多应用场景。
创新引领,厚植根基,共赴新程
未来,AI必将朝着更广泛的应用场景和更强的智能化方向迈进。从上文分析及观察看,支撑AI泛在普惠的智算以及万兆网络两大根基持续厚植,共赢智能时代,只争早夕!王翔表示,中兴通讯将坚持“优化细分场景、拓展应用边界、推进以网强算、打造多元算力、构建开放生态、加速商业闭环、坚守底层创新、实现长期发展”的举措,与客户、产业和生态伙伴精诚合作,互利共赢,携手共创数智新时代。