警惕!ChatGPT可能正在窃取你的信息!

发表时间: 2024-01-31 12:25
在人工智能(AI)让人们生活越来越便捷和舒适的同时,相关的隐藏风险也在不断暴露。一方面,数据共享和开放可以帮助提高人工智能的发展速度和质量,但另一方面,过度共享也会导致隐私泄露和数据滥用的风险。当地时间1月29日,意大利数据保护局表示,人工智能(AI)研究公司OpenAI的聊天机器人ChatGPT(Chat Generative Pre-trained Transformer)和其用于收集用户数据的技术违反了该国的隐私法。而本月早些时候,美国最具影响力的媒体之一《纽约时报》向OpenAI及其投资人微软公司提起侵犯版权诉讼,指控二者未经许可使用其数百万篇文章以训练人工智能模型,而这些聊天机器人现在与该新闻机构形成竞争,成为可靠的信息来源。

ChatGPT是由美国OpenAI公司于2022年11月开发并推出的一款基于对话的人工智能聊天机器人模型。该模型是一种基于Transformer的预训练语言模型,能够自主学习和理解大规模自然语言数据,并根据用户的聊天对话内容,综合模型中存在的现有数据生成符合上下文和用户意图的对话回复。由于ChatGPT不仅可以通过对数据的学习来提炼信息、预测趋势,还可以生成不同于学习样本的新内容,在随后短短两个月内,其迅速吸引了高达100亿用户且该数据还在不断增长。

去年3月底,意大利数据保护局以涉嫌违反数据收集规则为由,对OpenAI展开调查,并宣布禁止使用ChatGPT,且暂时限制OpenAI处理意大利用户数据。由此,意大利成为第一个限制ChatGPT的西欧国家。在OpenAI采取措施回应了监管机构的要求后,ChatGPT于去年4月底在意大利恢复上线。但意大利数据保护局当时表示,将会继续就此进行调查。去年4月,欧洲数据保护委员会(EDPB)也宣布,成立一个ChatGPT特别工作组,帮助各国应对ChatGPT。

意大利数据保护局表示,调查的结果表明,OpenAI可能存在一项或多项违反欧盟法规的行为;但该监管机构并没有提供进一步细节。意大利数据保护局还表示,其调查会考虑欧洲特别工作组所做的工作。面对意大利数据保护局的调查结果,OpenAI将有30天时间来做出回应。有分析称,去年勒令ChatGPT下线时,意大利数据保护局引用了《通用数据保护条例》(GDPR)——该条例是1995年《数据保护指令》的修订、拓宽和升级,于2018年5月生效。自该条例生效以来,意大利数据保护局是欧盟境内最积极主动的机构之一。据此条例,任何被发现违反该法规的公司都将面临最高可达全球营业额4%的罚款。尽管OpenAI未曾公开披露过其营收状况,但根据媒体此前报道,OpenAI去年一整年的营收达到了16亿美元。若按照这一数字计算,在最坏的情况下,OpenAI可能会面临6400万美元的罚款。

事实上,据韩国媒体报道,三星电子去年在引入ChatGPT不到20天,便曝出机密资料外泄:包括两起“设备信息泄露”和一起“会议内容泄露”;半导体设备测量资料、产品良率等内容或已被存入ChatGPT学习资料库中。这三起泄密事件均发生在三星电子半导体的装置解决方案部门。而最初三星也因担忧内部机密外泄而禁用ChatGPT,不过基于半导体是“生成式AI”的建构基础,三星随后恢复了一些部门使用ChatGPT,但装置体验部门禁用ChatGPT。

这些并非是近年来人工智能泄露数据和隐私的仅有案例。2020年,成立于 2016 年面部识别应用服务公司 Clearview AI证实,公司所有的客户列表、账户数量以及客户进行的相关搜索数据遭遇了未经授权的入侵。Clearview AI 的面部识别应用客户包括了美国移民局、司法部、银行、FBI、ICE、梅西百货、沃尔玛、NBA、阿拉伯联合酋长国的主权财富基金等 2228 多家机构和公司;此外还有更多的私人公司正在通过 30 天免费试用来测试该技术。随后,Clearview AI快速被谷歌、微软、油管、推特等互联网巨头的联合封杀抵制。

这些案例都凸显出在人工智能对数据日益增长的依赖性的背后,其包含的巨大的数据泄露的可能性和风险目前,各国都在积极探索对于人工智能模型的监管规则。值得一提的是,去年12月,欧洲议会、欧盟成员国和欧盟委员会三方,终于在漫长谈判后,就《人工智能法案》达成协议。这一法案将成为全球首部人工智能领域的全面监管法规。已达成协议的《人工智能法案》草案规定,严格禁止“对人类安全造成不可接受风险的人工智能系统”,其中包括有目的地操纵技术、利用人性弱点或根据行为、社会地位和个人特征等进行评价的系统等。相关规定还包括,人工智能公司要对其算法进行人为控制,提供技术文件,并为“高风险”应用建立风险管理系统。每个欧盟成员国都将设立一个监督机构,确保这些规则得到遵守。




来源:金融时报客户端

记者:莫莉

编辑:俞思晴

邮箱:fnweb@126.com