作者 | 香草
编辑 | 李水青
生成式AI如何以开源的方式进入企业?
智东西6月13日报道,今日,国际开源大厂红帽在媒体沟通会上分享了在AI发展路线之争上红帽的观点,并详细介绍了其上个月发布的AI方案,以及在国内的重要发展策略与举措。
在AI发展路线上,红帽主要的观点是坚持开源和混合。针对企业实施AI创新面临的六大挑战,红帽提供一套三步走的端到端AI平台和路径,跨混合云加速AI在企业中的应用。
在国内的发展策略上,红帽将配合国家战略,加速企业智能制造升级,同时赋能与融合国内AI生态,加速AI在全行业的应用。
分享会后,红帽全球副总裁兼大中华区总裁曹衡康、红帽大中华区资深市场总监赵文斌、红帽大中华区解决方案架构部高级总监王慧慧、红帽中国首席架构师张家驹与智东西等少数媒体进行了深入交流。
谈到算力目前受到极高的关注度,曹衡康谈道,算力只是短期的一个焦点问题,大家对算力的关注度太高,而忽略了模型本身算法、开发平台等的难度。
赵文斌认为,AI市场仍处在早期,短期突出的是算力紧张的问题,但随着研究更深入、更多的工具出现,这个问题将会被平滑地过渡过去。
在王慧慧看来,AI目前至少有4个方面的问题值得所有从业者深入探讨,包括基础架构、算法和模型、数据以及应用场景。而在企业级AI中,最核心的问题是如何用更少的投入得到更多的产出,也就是新质生产力。
在模型的开源程度方面,张家驹分享道,红帽提供的IBM Granite模型是将代码、训练过程、数据、权重等全都开源的,开源程度非常高。
红帽全球副总裁兼大中华区总裁曹衡康首先解读了红帽在AI发展路线上的看法,主要分为两点:
首先,AI必须是开源的。
▲红帽对AI的看法其一
曹衡康谈道,其实OpenAI一开始也是走开源路线,当时用的还是红帽的OpenShift技术,但之后慢慢走向闭源。
在红帽看来,开源闭源之间并没有对错之分,但在封闭体系下,生态的垄断和安全隐患已初具端倪。相较之下,开源由于受到整个开源社区的监督,能够更好地应对安全问题。
同时,开源能够降低企业拥有核心技术的门槛,让开发者参与到模型贡献当中,提升效率和性能。
具体来说,红帽和IBM将以一个开放项目的形式发布Apache 2.0许可模型和工具,上个月发布的基础模型平台产品RHEL AI则支持无缝开发、测试和运行Granite系列大型语言模型,为企业应用提供动力。
其次,云是混合的,AI也是。
▲红帽对AI的看法其二
在有了模型之后,所有的东西都必须在云上运作吗?曹衡康认为,这是非常浪费资源的行为,AI也应该像云计算一样做公有、私有和边缘的混合,针对不同的平台去做优化。
基于以上两个观点,红帽在企业级AI上的战略是开放混合云、开源思想,以及开放创新实践。
▲红帽的企业级AI战略与服务
曹衡康谈道,红帽不做硬件,不做应用,而是在两者之间提供领先的AI平台,帮助企业安全高效地部署和管理AI模型、应用;构建AI基础设施层,为企业提供安全的可扩展基础设施和自动化。
在生态合作方面,红帽目前已经拥有5000多家硬件企业、4000多家软件企业合作伙伴。在国际知名IT媒体CRN今年4月评选的AI 100系列名单中,红帽入选推动AI发展的20家云公司名单。
红帽大中华区解决方案架构部高级总监王慧慧介绍了红帽AI平台方案。她首先谈道,对企业来说,实施AI创新从来不是一件简单的事。
模型的选择问题,只不过是冰山一角,真正实施起来会浮现出更多复杂的问题:如何构建基础架构?如何选择AI工具?ROI太低怎么办?技术门槛高、人才稀缺怎么办?……
企业需要评估AI应用场景,并运用AI专业知识来为特定场景选择适当的模型,还必须处理AI实施过程中的各项显著难题,加上AI学科高门槛和人才的稀缺性,使得情况更为复杂。
王慧慧称,企业实施AI创新目前主要面临六大挑战。
▲企业实施AI创新的六大挑战
成本方面,GPU贵且不易购置,数据科学家难以招聘,企业被供应商锁定议价困难。
ROI方面,大模型投入回报率低、回报周期长、时间成本高,AI应用场景目前仍不明确,业务目标难以实现。
人才方面,数据科学和AI人才稀缺,学习曲线陡峭,AI技术更新落后于技术趋势。
数据安全方面,数据泄漏、侵犯数据隐私、违反数据主权等风险存在,此外行业和政府监管要求高。
算法方面,AI模型训练与调优复杂,工具和框架难以选择,模型架构复杂。
生态合作方面,企业数据训练和调优模型、部署和管理AI模型的协作效率低,需要在AI生态中与合作伙伴积极协作。
基于混合云,红帽提供从AI基础架构、AI平台、AI模型到AI赋能应用等全流程的能力。
▲红帽跨混合云加速AI在企业中的应用
具体来说,红帽以三个步骤提供端到端的AI平台和路径。
▲端到端AI平台和路径
首先,在资源受限的桌面环境下,采用小数据集进行实验性的训练。这里用到的Podman是一款用于大模型的开发工具,它可以在笔记本电脑上快速运行和编码对本地模型进行操作。InstructLab是一个用于生成式AI模型开发的开源社区项目,定期发布训练好的模型。
▲InstructLab
第二步,通过完整的合成数据生成技术,采用“教师”模型和“学生”模型的训练方法,进行生产级模型训练,并提供基本操作脚本化的工具支持。这一步基于红帽企业级Linux AI平台,其能够无缝开发、测试和运行开源Granite模型。
▲红帽企业级Linux AI
最后,在更大的分布式集群规模下,与RHEL AI一样进行生产级模型训练。同时充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。这一步基于混合MLOps平台OpenShift AI实现,该平台能够将IT、数据科学和应用程序开发团队聚集在一起,可用作托管云服务、云端或本地的传统软件产品。
▲红帽OpenShift AI
此外,红帽提供跨平台的Lightspeed产品,基于自然语言生成式AI处理能力,扩展现有的IT技能。Lightspeed通过将AI融入集群管理和操作系统,能够提高运维人员和开发人员的工作效率和生产力,简化企业规划和管理,在混合云中更好地应对企业IT复杂性。
▲跨红帽平台的红帽Lightspeed
据介绍,OpenShift Lightspeed将于今年晚些时候提供技术预览,RHEL Lightspeed目前处于规划阶段,Ansible Lightspeed则于去年发布。
谈到红帽在国内的重点发展策略与举措,曹衡康提到了两个方向。
首先,配合国家战略,加速企业智能制造升级。
▲红帽在国内的重点发展方向其一
红帽认为,开源是重塑行业技术、打通行业生态的重要推力。在工业控制、通讯技术、信息技术等领域,AI转型能满足行业功能性能的要求同时实现软硬解耦,消除硬件及系统层面的行业壁垒,从而增加灵活性,为应用层的场景爆发提供先决条件。
▲红帽在国内的重点发展方向其一
红帽云原生方案的目标是帮助制造业实现IT+OT+AI的整合创新。例如,工控微服务与IT微服务的混合部署,可以使得制造企业自动化+数字化+信息化的整体成本大幅降低;工控微服务与AI微服务的混合部署能够使实时分析高解析度数据复杂度大幅降低,进而推动预测性维护、数字孪生等场景分析准确性的提升。
其次,赋能与融合国内AI生态,加速AI在全行业的应用。
▲红帽在国内的重点发展方向其二
通过融合国内外GPU厂商、OEM(原厂设备制造商)、ISV(独立软件开发商)以及云厂商,红帽将重点放在加速金融、电信、广义制造业、汽车等全行业的应用上。
开源生态一直是红帽坚持的理念和战略,在AI领域,其通过坚持全面开源和混合云理念,提供端到端的AI平台和解决方案,致力于加速企业智能制造升级以及融合国内AI生态,以推动AI在各个行业的广泛应用和深入发展。
在沟通会前夕,红帽向到场媒体发放了一个小问卷。调查结果显示,有50%的媒体都看重AI开源生态,仅有5.56%的媒体力挺闭源派,其他媒体则不确定。未来,我们期待看到红帽能继续在AI开源的道路上发挥重要作用,为行业的进步和创新做出更大的贡献。