微软Windows 11 Recall更新引发隐私保护担忧

发表时间: 2024-05-26 12:35

微软宣布推出新的人工智能驱动的 Windows 11 Recall 功能引发了广泛关注,许多人认为它带来了巨大的隐私风险和新的攻击载体,威胁者可以利用它来窃取数据。该功能在周一的人工智能活动中亮相,旨在帮助"回忆"过去查看过的信息,通过简单搜索即可轻松获取。

虽然它目前只能在运行骁龙 X ARM 处理器的 Copilot+ PC 上使用,但微软表示,他们正在与英特尔和 AMD 合作开发兼容的 CPU。

Recall 的工作原理是每隔几秒钟对活动窗口进行截图,记录你在 Windows 中的所有操作,默认情况下最长可持续三个月。

这些快照将由设备上的神经处理单元(NPU)和人工智能模型进行分析,以提取截图中的数据。这些数据将保存在语义索引中,Windows 用户可以浏览快照历史记录或使用人类语言查询进行搜索。

微软表示,所有这些数据都使用与用户 Windows 账户绑定的 BitLocker 进行了加密,不会与同一设备上的其他用户共享。

虽然这听起来很有趣,但它立即引起了人们对明显的隐私风险以及微软是否打算吞噬所有这些数据的担忧。

不过,微软表示,Recall 的设计使所有数据都以加密格式直接保存在用户的设备上,用户可以完全控制该功能,包括是否启用以及可以截图哪些应用程序:

"Recall是Copilot+ PC与众不同的关键部分,微软从一开始就将隐私融入Recall的设计中。在搭载 Snapdragon X 系列处理器的 Copilot+ PC 上,首次激活设备后,您将看到 Recall 任务栏图标。您可以使用该图标打开 Recall 的设置,并对 Recall 在设备上收集和存储的快照进行选择。您可以限制 Recall 收集的快照;例如,您可以选择在支持的浏览器中访问的特定应用程序或网站,将其从快照中过滤掉。此外,您还可以通过系统托盘中的 Recall 图标按需暂停快照,清除已存储的部分或全部快照,或删除设备中的所有快照。"

微软还表示,它不会为 Microsoft Edge 的 InPrivate 窗口(以及其他基于 Chromium 的浏览器)或受 DRM 保护的内容创建截图。不过,他们尚未确认是否会支持其他浏览器的私人模式,如 Firefox。

在周一的新闻发布会上,公司副总裁兼消费者首席营销官 Yusuf Mehdi 向记者保证,微软对 Recall 采取了非常保守的态度。

梅赫迪说:"我们将在设备上保持你的 Recall 索引的私密性、本地性和安全性。我们不会使用任何信息来训练任何人工智能模型,而且我们让你完全掌控,你可以编辑和删除所捕获的任何信息"。

此外,微软还向 BleepingComputer 重申,Recall 的数据只能在本地使用,不会存储在云中,该公司再次重申"微软不会访问数据"。

微软还开始分享更多的技术细节,例如可用于在全公司范围内禁用"Recall"功能的组策略,以及最终用户如何禁用该功能。

网络安全专家和普通用户仍感担忧

微软的承诺并没有让网络安全社区或其客户放心多少,bleepingcomputer关于这项新功能的推文收到了 90 多条评论,全部都是负面的。

那么,为什么大多数网络安全专家、研究人员和分析师都如此担心这一功能呢?

首先,大公司利用用户数据牟利的行为屡见不鲜,当微软表示不会访问 Recall 数据时,用户很难相信他们。英国数据保护机构信息专员办公室(ICO)也正在与微软联系,以确保用户的数据得到妥善保护,不被公司使用。

"希望各组织在如何使用用户数据方面对用户保持透明,并且只在实现特定目的所必需的范围内处理个人数据。行业必须从一开始就考虑数据保护问题,并在将产品推向市场之前严格评估和降低对人们权利和自由的风险。我们正在向微软公司了解保护用户隐私的保障措施"。

即使我们承认微软不会访问 Recall 数据,该产品仍会对安全和隐私造成巨大影响。

微软承认,该功能不对内容进行任何节制,这意味着它会吞噬它看到的任何东西,包括密码管理器中的密码或银行网站上的账号。

或者,如果你在 Word 中撰写机密协议,那么该内容的截图也会被创建。 如果你只有一台电脑,并与他人共享,那么你可能要小心你所看的图片或视频,因为,你猜怎么着,这些也会被记录下来。虽然可以通过该功能阻止应用程序被截屏,但大多数人都会让它运行,而不会去管该功能的设置。

所有这些信息现在都存储在 Windows 11 的语义索引中,无论授权与否,任何可以访问您 PC 的人都可以轻松搜索到这些信息。

不过,这只是冰山一角。

如果威胁行为者或恶意软件入侵了你的设备,所有这些数据都会被 Bitlocker 解密,从而使黑客可以访问这些数据。

例如,威胁行为者或恶意软件可以简单地窃取 Recall 数据库并将其上传到自己的服务器进行分析,然后利用这些信息敲诈用户,或者在凭证暴露的情况下入侵用户的账户。

众所周知,网络安全专家凯文-博蒙特(Kevin Beaumont)有时会直言不讳地批评微软,他也对这一功能如何产生巨大的攻击面表示担忧,并将其比喻为"嵌入 Windows 的键盘记录器"。

博蒙特在一篇新的博文中解释说:"如果你看看历史上发生的信息窃取恶意软件(潜入个人电脑的恶意软件),它已经转向自动窃取本地存储的浏览器密码。换句话说,如果恶意威胁行为者进入系统,他们已经窃取了本地存储的重要数据库。他们只需将其扩展到窃取 Copilot Recall 功能记录的信息即可。"

不仅是窃取信息的恶意软件,像 TrickBot 这样以企业为目标的恶意软件以前也曾包含一些模块,可以 窃取域的 Active Directory 数据库,用于离线破解凭证。 没有什么能阻止恶意软件采取类似的方法,窃取 Recall 数据库。

对于漏洞和攻击,微软一直采取的立场是,一旦设备被入侵,一切都完了,安全边界也被抛到九霄云外。基本上,只要感染了病毒或中了社交工程攻击的圈套,所以所有这些坏事都会发生在你身上,这都是你的错。

然而,由于微软是消费者数据和计算安全的最大管理者之一,在已经充满风险的环境中引入额外风险似乎是不负责任的。

虽然我们可以继续表达这项功能如何带来巨大的隐私风险,但我还是要把微软最近承诺将安全放在首位的这段话留给大家。

"如果你面临安全与其他优先事项之间的权衡,答案很明确:确保安全。在某些情况下,这意味着安全优先于我们所做的其他事情,比如发布新功能或为传统系统提供持续支持,"微软首席执行官萨蒂亚-纳德拉(Satya Nadella)在给微软员工的一封电子邮件中说。"这是提高我们平台质量和能力的关键,这样我们才能保护客户的数字财产,为所有人建立一个更加安全的世界。"

编译自/bleepingcomputer