微软揭秘:云端混合大小模型如何加速AI在企业中的落地

发表时间: 2024-06-15 12:07

作者 | 香草
编辑 | 李水青

智东西6月14日报道,今天,微软在Microsoft AI Day上集中展示了其在生成式AI上的最新技术突破与进展,包括一系列Azure AI新服务与新功能、Microsoft Copilot技术栈,帮助企业开发者打造专属Copilot的Microsoft Copilot Studio等一系列开发工具与平台服务。

在今年的Build全球开发者大会上,微软围绕Azure AI和Copilot发布了60多项产品、服务、解决方案,本次通过Microsoft AI Day,微软将最新的技术创新和发展趋势,同步更新给更多的开发者、客户、合作伙伴,以开放合作的态度推进创新技术的普及应用。

微软全球资深副总裁、微软亚太研发集团主席王永东谈道,微软在AI技术方面的发展是非常迅速地,他称之为“微软速度”。从2019年与OpenAI合作开始,微软抓住AI转型机遇,频繁推出新产品、新升级。其中,GitHub Copilot、Teams高级版嵌入GPT、Microsoft 365 Copilot的发布和扩展插件支持等是具有代表性的关键节点。

▲微软的AI发展路径

微软亚洲区Microsoft Azure策略运营总经理康容、微软大中华区首席运营官陶然与智东西等少数媒体进行了深入交谈。

当智东西问道,对于中小企业、创新企业,生成式AI有哪些潜力和价值?

康容称,虽然在案例分享中以大型企业为主,但从亚太地区来看,AI在中小企业、创新企业中的使用率并不低。它们的痛点和大企业恰恰相反,由于没有过重的数据负担,因此从技术层面上,Copilot等AI产品的融合会更容易,新技术的迁移也更为灵活便捷。

陶然谈道,创业公司前期最大的痛点,其实都是缺少资金和人才,微软Copilot能够帮助小团队在人数、资金有限的情况下,发挥出更大的能量。对中小企业来说,信息处理等能力需求高,微软的产品可以帮助他们加速新产品试用推广、团队扩张。

一、Copilot平台推出Agent能力,小模型满足端侧需求

在Scaling Laws下,AI技术的能力大约每六个月就会翻倍增长。陶然谈道,如何让技术成果对齐行业、企业的实际业务需求,加速技术能力的落地转化,成为当前微软最关注的业务领域。

▲Scaling Laws

基于企业级Copilot,微软构建了从云到边缘,从AI基础设施、基础大模型、数据智能平台到AI开发平台与工具链,再到可定制的Copilot及扩展功能的Copilot技术栈。

▲微软企业级Copilot技术栈

Microsoft Copilot Studio是由Copilot扩展的专属平台,其推出Agent代理功能,让开发者能够根据特定任务和功能,构建出做出针对性主动响应的Copilot。

定制化的Copilot可通过记忆和知识了解上下文背景、推理需要进行的操作和行动,基于用户反馈进行学习,并主动寻求帮助,独立管理复杂、长期运行的业务流程。

▲Copilot扩展的专属平台Microsoft Copilot Studio

从IT设备采购、销售到客户服务,用户可以从不同场景和自身业务需求出发,量身定制Copilot。通过插件和连接器等Copilot扩展,用户可以连接到不同的数据源和应用程序,进一步拓展Copilot的适用性和功能。

在模型层面,陶然称,微软认为AI时代并不是只有大模型,高效的端侧小模型同样重要。

微软的小语言模型Phi-3系列,发布全新多模态模型Phi-3-vision,其具备42亿参数,可提供语言和图像处理能力,能够实现基于照片的推理,并优化对图表内容的理解能力。Phi-3小语言模型能够同时满足云端运行,以及面向网页、移动端和边缘设备的本地部署的需求。

▲微软Phi-3系列小模型

二、GPT-4o提供云上API服务,GitHub Copilot累计180万付费用户

康容介绍,目前全球有超过5万家企业和组织采用微软Azure AI服务。

▲微软Azure

在Build 2024全球开发者大会上,微软宣布与AMD、英伟达等合作伙伴深化合作,为用户提供多样化的高性能云基础设施服务。

在与英伟达的合作方面,微软将英伟达Omniverse Cloud、DGX Cloud与微软云服务、Fabric数据服务深度集成,让开发者第一次得以在Azure云端调用Omniverse的API开发AI解决方案。

▲微软与英伟达全栈合作

作为首个将AMD MI300X AI加速器芯片用于客户AI训练和AI推理的云服务商,微软正式发布针对Azure OpenAI Service的高性能计算(HPC)工作负载进行优化的Azure ND MI300X v5虚拟机系列。

▲微软新一代Azure虚拟机

康容谈道,在大模型领域,OpenAI是微软最重要的战略合作伙伴。OpenAI的旗舰模型GPT-4o在Azure平台上开发训练,现已加入Azure AI Studio,同时也可作为API服务调用。

▲Azure OpenAI国际版

Azure AI服务也在不断拓展MaaS的覆盖范围,提供了对Coherence、Databricks、Deci、Meta、Mistral AI、Snowflake等大模型服务的支持。

微软还宣布进一步加强与开源社区Hugging Face合作,将更多来自开源库的优秀语言模型引入Azure AI服务和Azure AI Studio开发工具。

▲Azure AI Studio

GitHub Copilot是微软旗下AI驱动的开发者智能副驾驶,过去两年已累计超过180万付费用户,得到90%“财富100强”企业的信任。

▲GitHub Copilot

三、微软助力AI落地应用,加速制造、金融、教育业智能转型

微软中国区总裁原欣谈道,AI正在成为现代生产力必不可少的组成部分。2024年度《工作趋势指数报告(WTI)》显示,在全球范围内,75%的受访劳动者称其已经将AI用于日常工作,其中近半数的人在最近6个月内开始使用AI。

与此同时,AI技能正成为用人单位招聘时的考量之一,71%的受访管理者称,在有经验而缺乏AI技能,与经验略有欠缺但AI技能扎实的候选人之间,他们更倾向于选择后者。在中国市场, 91%的受访劳动者已经将AI用于日常工作,82%的管理者更看中求职者的AI技能。

▲微软AI在客户中的应用

原欣称,微软植根中国市场三十余年,积累了推动不同行业客户数字化转型、智能化创新的丰富的成功经验,能够更好地根据不同行业的业务场景、企业需求,为其量身定制“接地气”的技术落地和解决方案。

北京世纪好未来教育科技有限公司CTO田密来到现场,据他介绍,2023年初,好未来教育集团率先为上千位研发人员配备了GitHub Copilot。

据统计,其开发人员与Copilot月均交互接近2万次,AI辅助编写代码的平均采纳率达到33%,每月总采纳代码总数大约有25万行。

▲好未来采用GitHub Copilot提升效率

好未来在研发教育千亿级“九章大模型”的过程中,借助Azure AI服务,将数据标注的效率提升了35%,实现了客观题评估、主观题评估等多个任务的自动化评估。此外,好未来基于九章大模型研发的AI Tutor产品中,广泛采用了微软Azure提供的高精准ASR和超拟人TTS技术。

▲好未来采用微软Azure AI服务

OPPO AI中心产品总监张峻介绍,微软为其即将面世的海外手机新品上的AI功能提供智能语音服务支持,包括运用Azure AI服务中的ASR与TTS开发的AI录音摘要和AI文章朗读功能。

相关功能通过直接调用Azure API即可面向全球用户提供服务,其中语音相关特性开发和调试用时仅一个月,帮助OPPO大大降低了人力与物力的支出,而且可以更好满足海外市场对于安全隐私与合规的严格要求。

▲OPPO与微软合作

麦当劳中国也选择微软作为首个智能化深度创新伙伴。据介绍,微软为麦当劳中国量身定制了整套智能化创新解决方案,包括由Azure云平台提供自然语言交互、生成式智能、机器学习等企业级的智能化服务;以融入Copilot的Microsoft 365为基础,构建高效的员工协作平台;通过GitHub Copilot加速IT开发和系统运维,提升IT系统及业务应用开发迭代效率等。

此外,麦当劳中国南京创新中心成立“AI-Lab”,将智能技术引入麦当劳中国“汉堡大学”,为20万名员工提供职业发展与技术技能培训。

在帮助企业加速AI落地层面,康容谈道,就微软与客户的接触来看,目前各行各业都在积极部署AI,其中金融、教育、制造业、电商等用量较大。在亚太地区尤其是中国市场,客户对新的产品、技术接受度更高,相较之下欧盟的客户可能更加保守。

结语:国内企业走上第三阶梯,AI应以安全为先

相比ChatGPT刚出现时,企业对AI的认知有哪些变化?康容谈道,过去一年多,企业逐渐从认识AI,过渡到开始重视如何将AI融入现有业务,走上第二、第三阶梯的客户越来越多,而且国内的客户走得更快。

陶然认为,AI的发展一定是以安全为先,在此基础上,未来AI要帮到每个人,必须是端侧、云端相结合。微软在大模型上的心态是开放和兼容的,小模型不会取代大模型,而是作为不同侧重点的模型相互结合,发挥最大的优势。