火山引擎推出大模型训练云平台:万卡训练能力,集群性能提升三倍

发表时间: 2023-04-18 11:54

4月18日,字节跳动旗下火山引擎发布自研DPU等系列云产品,并推出新版机器学习平台,支持万卡级大模型训练、微秒级延迟网络,弹性计算可节省70%算力成本。基于自研DPU的GPU实例,相比上一代集群性能最高提升三倍以上。火山引擎总裁谭待表示,国内大模型领域的数十家企业,超过七成已经在火山引擎云上。

会上,火山引擎宣布与字节跳动国内业务并池。基于内外统一的云原生基础架构,抖音等业务的空闲计算资源可调度给火山引擎客户使用,离线业务资源分钟级调度10万核CPU,在线业务资源也可潮汐复用,弹性计算抢占式实例相比常规产品最高优惠80%以上。(澎湃新闻记者 范佳来)