通信世界网消息(CWW)伴随着以ChatGPT为代表的大模型迅速迭代更新,AI迎来了爆发式增长的拐点,从能用到好用,AI正润物细无声地改变着人们的生活和工作方式。那么,将目光投向更广阔的范围,AI如何融入企业的生产环节,带来降本增效、绿色节能、产业升级的切实改变?
事实上,企业拥抱AI目前仍处于初期探索阶段。红帽全球副总裁兼大中华区总裁曹衡康认为,企业拥抱AI有两个关键词,一是开源,二是混合。
红帽全球副总裁兼大中华区总裁 曹衡康
开源与混合优势明显
作为开源理念的布道者,红帽坚信未来AI也是开源的。在红帽看来,闭源和开源各有特色,并无对错之分。相对而言,开源AI有三大好处。
首先,透明性和信任度。开源模型的代码和算法是公开的,任何人都可以检查和审计,这种透明性增加了对模型的信任,特别是在涉及敏感数据或需要高可靠性的应用中。
其次,社区协作和创新。开源项目通常有一个庞大的开发者社区,可以共同贡献代码、发现和修复漏洞、改进算法,这样的协作加速了技术进步和创新。
再次,成本效益和灵活性。开源模型没有或只收取少许许可费用,这对于资源有限的开发者和企业非常重要。同时,用户可以根据需求修改和优化模型,具有高度的灵活性。
“混合”指的是混合云。众所周知,AI有算力、算法、数据三大要素,随着模型规模和训练参数的增长,算力需求水涨船高,造成了GPU供不应求的市场状况。红帽认为,将所有工作放在“云”上非常浪费资源,未来AI应该百花齐放。“混合云”可以让模型轻量化,降低算力负担。例如,在“云”或者数据中心建模,再将小语言模型放在边缘站点运行,最后到大平台进一步优化,这样可以最大化利用资源,提升AI效率,解决企业将模型放到“云”上的数据安全顾虑。
“简而言之,红帽希望在比较简单的环境下建立模型、使用AI应用。”曹衡康表示。
开源、混合成为红帽AI战略的两大关键词,在今年5月初举行的“红帽全球峰会”上,红帽发布的企业级AI战略及产品和解决方案也充分体现了开源、混合两大关键词。
将开源思想与开放实践带入AI
“红帽一如既往地坚持开放生态,将开源思想与开放创新实践带入AI领域。”曹衡康表示。化繁为简是红帽的理念,红帽不做硬件和应用,而是搭建基础架构、平台、工具,与伙伴广泛合作。红帽坚持开放精神,支持所有芯片、硬件、模型。
企业实施AI并非易事,有很多因素需考虑,我们所见不过冰山一角。针对企业开发模型和使用AI存在门槛,红帽从数据采集、分析、学习到建模、应用运行提供一站式全套服务,帮助企业降低门槛。
从AI构成看,在应用层,红帽提供跨开放混合云的AI赋能的企业应用;在模型层,红帽提供多样化选择,提高AI创新的ROI;在平台层,红帽提供领先的AI平台,帮助企业安全高效地部署和管理AI模型和AI应用;在基础设施层,红帽为企业的AI模型和AI应用提供安全和可扩展的基础设施和自动化服务。同时,红帽为企业提供咨询、实施、赋能三位一体的开放创新实验室服务,加速企业AI创新实施。
基于红帽提供的端到端AI平台,企业如何实施自己的AI战略?红帽大中华区解决方案架构部高级总监王慧慧认为,企业用户以开源方式创建AI应用可以分三步走。
第一步,在资源受限的桌面环境下,采用小数据集进行实验性训练。InstructLab未来会集成到Podman Desktop,让开发人员在自己的笔记本、PC工作服务器上面用容器化方式开发AI应用,或者用InstructLab工具建立和调优基于自己的模型。
第二步,通过完整的合成数据生成技术,采用“教师”模型和“学生”模型的训练方法,进行生产级模型训练,并提供基本操作脚本化的工具支持。一旦初步验证基础模型符合要求,同时AI应用初具模型,开发人员就可以推送到更大的服务器上进行生产化模型训练。
第三步,在更大的分布式集群环境下,与RHEL AI一样进入生产级模型训练。同时,充分利用Kubernetes扩展、自动化并实现MLOps的全部功能。
六大产品助力降低AI门槛
在“红帽全球峰会”上,红帽发布了20多款AI相关产品和解决方案,其中6个方案特别值得关注。
第一,OpenShift AI。这是一个AI的平台级产品,支持混合MLOps平台所做的事情,包括模型创建、调整、对齐、服务和监控,以及生命周期管理、资源优化与管理。OpenShift AI是一个集大成者,企业使用该平台就可以完成企业内部应用、模型、资源控制等。
第二,RHEL AI(RedHat Enterprise Linux AI)。OpenShift AI与RHEL AI的不同之处在于,前者是分布式集群环境,后者是较小的环境。通过RHEL AI,红帽希望给客户提供一个较小的环境,降低模型训练和调优门槛。基于RHEL AI,红帽推出了模型对齐工具InstructLab,可以用少量数据、系统合成方法、人为反馈模式帮助模型训练人员用较低成本将基础模型按需对齐。
第三,镜像模式。这是一种打包方式,允许团队、基础设施和生态系统汇聚到单一的容器本地工作流中,像搭积木一样打包进行发布,管理从应用程序到底层操作系统的一切。当最终用户拿到这样的“包”时,可以安装在任何环境,降低准备AI环境的复杂度。
第四,Podman AI Lab。这是Podman Desktop的一个扩展项,用来写代码。与此前代码工具的差别在于,Podman AI Lab提供了做模型微调的本地开发者工作流,用户可以在本机上进行AI应用开发测试、微调等。同时Podman AI Lab所写的东西可以无缝推送至OpenShift AI大平台。
第五,跨红帽平台的红帽Lightspeed。与ChatGPT不同,ChatGPT用的是人类自然语言,Lightspeed处理的是红帽内部的开发代码,以及客户同意使用的自动化脚本。红帽发现很多开发人员愿意自己动手开发,为此拓展了基于Lightspeed的大语言模型。
第六,Ansible自动化平台。在复杂的、AI注入的环境中用于治理、风险和合规性的解决方案。在开发周期中检查策略实施,加快自动化内容开发过程中的策略检查;基于独特需求的策略执行集成机制,在自动化运行之前或期间进行酌情或强制检查;协助合规状态和审计跟踪的报告,政策遵从性和审计报告更省时。
“红帽的使命是通过开源技术将复杂工作留给自己做,希望客户应用越来越简单。红帽通过开源力量简化后续工作,让客户开发应用AI变得简单。”红帽大中华区市场总监赵文斌表示。