两天内升级上千Java应用:Amazon Q生成式AI的开发者利器?

发表时间: 2023-11-30 11:20

作者 | 褚杏娟、核子可乐

OpenAI 神秘项目“Q*”刚曝光不久,亚马逊云科技就推出了有着相似名字的企业级生成式 AI 助手 Q。


在日前于拉斯维加斯召开的 re: Invent 大会主题演讲中,亚马逊云科技 CEO Adam Selipsky 正式宣布推出 Amazon Q,“您可以使用 Q 轻松进行对话、内容生成并执行操作。Q 完全了解你的系统、数据存储库和运营需求。”Selipsky 说道。


据悉,Amazon Q 由亚马逊云科技 17 年来积累的知识和经验训练而成,可以提出满足业务需求的云基础设施建议、输出博客文章、帮助应用程序代码,以及搜索和分析企业数据。订阅起价为每用户每年 20 美元,且已经提供公开预览版。


如何帮助开发者

加速业务开发


Amazon Q 是用户在亚马逊云科技上构建、部署和操作应用程序及工作负载的专家。根据官方介绍,用户可以将 Q 接入组织指定的应用程序和软件(例如 Salesforce、Jira、Zendesk、Gmail 以及 Amazon S3 存储实例等),并据此进行自定义配置。


Q 能够根据所有关联数据及内容进行索引,“学习”关于当前业务的方方面面,包括组织结构、核心概念和产品名称等。


例如,公司可以通过 Web 应用程序要求 Q 分析用户在使用哪些功能时遇到了问题、应该如何改进这些功能;也可以像使用 ChatGPT 那样直接上传文件(支持 Word 文档、PDF、电子表格等)并询问与内容相关的问题。Q 则通过联系、整合和数据(包括特定业务数据)提供响应与参考。基于这些问题,Amazon Q 会给出明确答案并列出引用出处。


用户可以追问任意多轮的问题,来获取更加详尽的答案,找到实现其工作负载的最佳选项,并得到基本操作的步骤指导。


Q 不仅能够回答问题,还能作为助手生成或总结博文内容、新闻稿和电子邮件。它还为工作中的常规操作提供一组可配置的插件,包括自动创建服务工单、通过 Slack 中的特定团队以及更新 ServiceNow 中的仪表板等。


为了防止错误,Q 要求用户在行动之前检查其操作建议,并展示结果以供验证。


Q 可以通过亚马逊云科技的管理控制台、各类 Web 应用程序以及 Slack 等聊天应用进行访问,而且对亚马逊云科技家族的产品和服务有着透彻了解。亚马逊云科技表示,Q 能够理解亚马逊云科技上各种应用工作负载间的细微差别,哪怕是只需运行短短几秒的应用、或者极少访问存储内容的程序也可以接受 Q 的指引和操作。


Q 还能解决网络连接等常见问题,分析网络配置以提供修复建议。“如果控制台出现错误,您可以按下 Amazon Q 按钮进行故障排除。Q 将研究该错误并建议如何修复它。Amazon Q 还了解网络,“可以帮助快速解决连接问题,”Selipsky 说道。


Selipsky 表示,“我坚信这将是一场生产力层面的变革,希望来自不同行业、从事不同岗位的人们都能从 Amazon Q 身上获益。”

生成、解释代码


Q 与 Amazon CodeWHisperer 服务相结合,可以生成并解释应用程序代码。在受支持的 IDE(例如 Amazon CodeCatalyst)当中,Q 可以为用户代码生成测试,借此衡量其质量水平。


此外,Q 还能创建软件新功能、执行代码转换,并为代码包、存储库和框架更新草案和文档,使用自然语言对计划进行完善和执行。


Selipsky 表示,亚马逊云科技内部的一支小团队就成功在短短两天之内,使用 Q 将上千款应用程序从 Java 8 升级到了 Java 17,甚至完成了相应的测试。


Q 的代码转换功能仅支持从 Java 8 和 Java 11 升级至 Java 17(后续将推出.NET Framework 到跨平台.NET 转换),且所有代码相关功能(包括代码转换)都需要配合 CodeWhisperer Professional 订阅服务。不清楚这方面要求后续是否会有所放松。


Selipsky 补充道,Amazon Q 将能够将应用程序从 Windows .NET Framework 迁移到 Linux 上的跨平台 .NET,这是一个好主意,但由于仅依赖于 Windows,因此在实践中常常面临挑战。


亚马逊云科技表示,他们也在利用 Q 增强更多第一方产品,例如 Supply Chain 和 QuickSight(一种商业分析服务)。


Q 能够在 QuickSight 中为商业报告提供可视化选项,自动调整格式,或者根据报告中的引用及数据回答用户提问。而在 Supply Chain 当中,Q 能够通过最新分析结果响应诸如“为什么我的配送单延误了?”之类的查询。


Q 还在逐步进入联络中心软件 Amazon Connect。在 Q 的支持下,客服人员现在可以快速获得关于用户提问的答复建议,对应的操作步骤以及背景资料链接,由此告别繁琐低效的手动搜索。Q 还能生成通话摘要,帮助主管后续跟踪服务进度。


隐私安全


在整场演讲中,Selipsky 多次强调 Q 给出的答案及操作建议完全可控且支持筛查。Q 只会返回用户有权查看的信息,管理员可以限制敏感主题,要求 Q 在必要时过滤掉不当问题和答案。


为了缓解幻觉问题(即生成式 AI 系统中常见的捏造事实行为),管理员可以要求 Q 仅从公司内部文档中提取知识,而不得使用来自底层模型的知识。Selipsky 表示,驱动 Q 的底层模型是 Amazon AI 开发平台 Bedrock 提供的模型组合,包括 Amazon 原研的 Titan 系列,且绝不会利用用户数据进行模型训练。


当前,已经有十几家公司明确禁止或限制使用 ChatGPT,反映出了当下人们对向聊天机器人输入数据可能导致泄露风险的担忧。Selipsky 强调,“如果你的用户本来就无权访问某些内容,那么在使用 Q 之后也仍然无权访问。Q 理解并尊重用户的当前身份、角色和权限……我们也永远不会使用业务内容来训练底层模型。”


除了对隐私的高度重视,从各个方面来看,Q 似乎都是亚马逊云科技对于微软 Azure Copilot 做出的有力回应,而 Azure Copilot 又是微软对谷歌 Duet AI 的回应。Azure Copilot 与 Duet AI 均采用聊天助手的形式,负责为云用户提供应用程序和环境配置建议,并通过发现潜在问题和给出答案的方式协助故障排查。


题外话


Constellation Research 创始人兼首席分析师 Ray Wang 在采访中表示,他认为 Q 是本届 re: Invent 上最具份量的发布。“这是在用 AI 武装开发者,帮助他们取得成功。”


很明显,亚马逊云科技看到了近期调查给出的关键结论,即大多数试用生成式 AI 的厂商都不知道该怎么将新技术纳入业务用例、将其真正转化为生产力。


宝马集团数据工程和分析顾问 Christoph Albrecht 表示:“宝马团队需要快速提取和解释新数据,以提供客户期望的精确体验。Amazon QuickSight 中新增的 Amazon Q 功能可帮助我们的分析师在数小时内构建仪表板,而以前需要数天时间。”

值得注意的是,Anthropic 首席执行官兼联合创始人 Dario Amodei 也在 re:Invent 上与 Selipsky 一起登台。9 月份,亚马逊云科技向这家人工智能初创公司进行了高达 40 亿美元的投资,为 Anthropic 提供更多云基础设施和芯片来训练和运行其模型。Anthropic 的 Claude LLM 将为一系列 AWS 产品提供支持,包括 AppFabric。



Anthropic 的 7 个创始人都来自 OpenAI,曾经深度参与过 OpenAI 的 GPT-3、引入人类偏好的强化学习等多项研究。对于离开 OpenAI 的原因 ,据说是因为其“从一开始就在模型安全性方面有着不同的愿景。”Anthropic 在 OpenAI 高层斗争大戏落幕之后不久后亮相 re: Invent,这也彰显了亚马逊云科技发力生成式 AI 的决心。


接下来,就让我们一同期待 Q 的更多使用案例和反馈,看看它是否真如宣传的这么神奇。


参考链接:

https://aws.amazon.com/cn/q/

https://techcrunch.com/2023/11/28/amazon-unveils-q-an-ai-powered-chatbot-for-businesses/