字节旗下云服务平台推出新服务,助力国内数十家大模型发展

发表时间: 2023-04-19 20:22

4月18日,字节跳动旗下的云服务平台,火山引擎在其举办的“原动力大会”上推出新版机器学习平台及一系列配套服务,并称国内有数十家做大模型的企业都已部署在火山引擎云上,比如智谱AI、昆仑万维等。

根据大会现场信息,这次火山引擎与字节跳动国内业务合作,基于内外统一的云原生基础架构,可以将抖音等业务的空闲计算资源快速调度给客户使用,离线业务资源可达到分钟级调度10万核CPU。

现在看来,国内入局AI大模型似乎有两种模式:第一是像百度、阿里一样推出ToB模型,进行内部调用或为第三方企业定制服务;第二就如火山引擎这种云厂商平台,为大模型提供算力资源和训练平台。

有业内人士表示,当前大模型一次训练成本就超过1000万美元(约6800万元人民币),后续模型推理还将产生更大开销,因此,国内大模型赛道对云资源的需求就可想而知。当前国内已有多家云厂商表示自己有AI大模型方面的积累和能力,百度老板李彦宏甚至还说文心一言带来的优势,让百度智能云有可能成为市场第一。

火山引擎“原动力大会” 字节跳动副总裁杨震演讲

综合:南都记者杨博雯