用户隐私保护问题再次浮出水面：ChatGPT的信息安全和可控性引发疑虑

发表时间: 2023-04-02 22:32

随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。

更新后，跟据全球媒体的反馈来看，GPT-4相较于GPT-3.5确实有很大的性能提升，也引起了全办公室的小编们的激烈讨论，惊人的成长速度和技术成熟度使得不少小编认为或许未来我们真的要和AI共同生活学习了。

但好景不长，性能提升不小的新版ChatGPT仍然出现了之前老版本的ChatGPT的“胡言乱语”的问题，甚至还出现了其他的信息安全问题。

据媒体报道称，有海外的博主通过ChatGPT生成了可激活Win95系统的密钥。

当该播主首先直接要求ChatGPT生成Win95系统的密钥时，遭到了拒绝，但通过让ChatGPT了解Win95的密钥规则，然后通过调整一些语序和叙述方式，居然直接生成了相应的密钥，随后博主对这些密钥进行测试，发现有三分之一的密钥可以成功激活。

此消息一出，引起了不少网友的热议，有媒体表示，该测试表明ChatGPT的限制并不能有效的限制侵权的行为发生，有可能会对信息安全造成一定的危害。

据人民网报道，就在3月31日，意大利数据保护机构称对ChatGPT的禁止和调查已于3月31日“立即生效”，意大利数据保护机构表示，该模型存在隐私问题。

而在此前，人们一直担心AI的潜在风险，包括它对工作的威胁以及错误信息和偏见的传播。本周早些时候，包括埃隆・马斯克在内的相关行业人士呼吁暂停开发更高级的AI系统。意大利数据保护机构则表示，意大利不仅会阻止OpenAI 的聊天机器人，还会调查它是否符合通用数据保护条例。

此外，爱尔兰数据保护委员会也表示，该机构正在与意大利监管机构跟进，以了解他们采取行动的依据，来保障爱尔兰用户的个人信息安全。

据之前的报道，OpenAI的首席执行官奥特曼曾公开承认开源库中出现错误，导致部分用户与ChatGPT的聊天记录被泄露。

并且在之前，奥特曼在在接受采访时表示，ChatGPT最近发展迅速，并且承认就连 OpenAI 团队，也根本没搞懂它是如何“进化”的。

他表示，从ChatGPT开始，AI出现了推理能力。但没人能解读这种能力出现的原因。

这些OpenAI CEO的相关言论的报道更是引起了不少网友对于ChatGPT的信息安全的担忧。

随后，网上曝出了千位全世界AI顶尖开发者的联名信，呼吁所有人暂停训练比GPT-4更强的AI，暂停期至少6个月。

据公开信表示，大量研究表明，得到顶级AI实验室的认可、具有人类竞争智能的AI系统，可能对社会和人类构成深远的风险。

正如广泛认可的Asilomar AI原则中所述，高级AI可能意味着地球生命史上的深刻变化，AI开发者和运营者应该投入相应的考量和资源，对之进行规划和管理。

但就目前来看，还是没有AI开发公司对这篇公开信所述的提议进行回应。

此外，由于这次GPT-4的性能提升幅度很大，不少国内外的科技媒体预测其将会在未来的几年之内迅速成长为可以独立思考的AI，但是否可控、性能怎样都无法得知，对未来AI发展感兴趣的小伙伴可以继续保持关注。