macOS15.1测试版新功能揭秘:反幻觉命令助力智能回复飞跃

发表时间: 2024-08-07 19:52

【太平洋科技快讯】苹果公司在最新的 macOS 15.1 测试版中对 AppleIntelligence 的智能回复功能进行了升级,引入了一系列内部指令,以提高该功能的准确性和可靠性,这些内部指令以 JSON(存储简单的数据结构和对象的文件) 文件形式存在,详细规定了智能回复功能的工作流程,苹果在这些指令中明确要求系统“不要编造事实,不要产生幻觉”。

智能回复是苹果邮件应用的一项功能,它能通过分析邮件内容自动生成可能的回复选项,为用户提供便捷的沟通体验。该功能基于苹果自研的智能技术打造。

Apple Intelligence同其他生成式 AI 一样,智能回复功能在生成回复时可能会出现“幻觉”问题,即产生虚假或误导性信息,为了防止智能回复功能产生错误信息,苹果在内部指令中要求该功能仅提取邮件中明确提出的问题,并提供相应的回答选项。这一措施有助于降低 AI 在生成回复时的错误率。

尽管苹果公司已采取措施严防智能回复功能编造信息,但业内人士指出,要完全消除“幻觉”问题仍然充满挑战。原因在于生成式 AI 模型本质上并不理解文本内容,难以准确判断信息的真伪。