超预期的变强速度引发安全问题,多国暂停使用ChatGPT

发表时间: 2023-04-07 23:31
前段时间,小编向大家介绍过,随着最近GPT-4语言模型的正式投入使用,ChatGPT也带来了全新的插件——网络浏览器和代码解释器,赋予ChatGPT使用工具、联网、运行计算的能力。
更新后,跟据全球媒体的反馈来看,GPT-4相较于GPT-3.5确实有很大的性能提升,但出乎全球AI关注者的意料的是最近这种能力似乎有了全新的进化。
(GPT-4反思后,准确率为88%,之前为67%)
一名前谷歌大脑研究工程师发现了GPT-4可以合理的方式批评自己的成果,也就是说GPT-4模型已经有了一定的反思能力,这再一次加快了GPT-4模型的进化速度,据相关媒体测试称,有了反思能力的GPT-4测试成功率相较于没有反思能力的GPT-4提升了30%。
GPT-4越来越快的发展速度可以加重了用户对于个人信息安全的担忧,并且对ChatGPT是否可控提出了质疑。
根据网络安全公司Darktrace公布的最新研究报告,攻击者使用ChatGPT等生成式AI,通过增加文本描述、标点符号和句子长度,让社会工程攻击量增加了135%。
此外,据相关媒体报道,三星电子引入聊天机器人ChatGPT不到20天就发生了3起涉及ChatGPT的事故,其中2起与半导体设备有关,1起与会议内容有关。
为了防止类似事故再次发生,三星正在制定相关的保护措施。如果今后发生类似事故,三星可能切断ChatGPT服务。
而对于快速增长的安全问题不少国家也采取了措施,据人民网报道,就在3月31日,意大利数据保护机构称对ChatGPT的禁止和调查已于3月31日“立即生效”,意大利数据保护机构表示,该模型存在隐私问题。
而在此前,人们一直担心AI的潜在风险,包括它对工作的威胁以及错误信息和偏见的传播。意大利数据保护机构表示,意大利不仅会阻止OpenAI 的聊天机器人,还会调查它是否符合通用数据保护条例。
此外,爱尔兰数据保护委员会也表示,该机构正在与意大利监管机构跟进,以了解他们采取行动的依据,来保护本国用户的信息安全。
而就在昨日,据相关媒体报道称,不只是意大利,德国、法国等国家也可能跟随意大利的做法对ChatGPT进行停用,并且德国相关组织表示已经与意大利相关组织进行了联系,并讨论了调查结果。
据相关媒体报道称,由于多国对于ChatGPT的相关信息安全问题的调查,ChatGPT概念股C3.ai的股价持续走低,收跌26.34%报24.95美元,市值28亿美元,创该股上市以来最大日内跌幅。
就目前来看,ChatGPT确实有其独到的优势,并且相较于其他竞品其性能优势很大,但是目前因为其不能被有效的控制所产生的问题也是非常明显的,首先AI目前并不能每次提供完全正确的答案,会有几率输出错误答案,造成误解;此外,无法对违法行为施加更加严格的管控,使得相关信息安全的犯罪成本和在社交媒体上制造谣言的成本更低,加重了审查的负担。
正如OpenAI的CEO奥特曼在之前接受采访时所说,ChatGPT还是个非常早期的AI。但正式因为其是非常早期的AI,其问题也就更多,在大量训练的过程中就更应该对其加以管控,保障其可以安全有效的使用,否则任其发展未来的情况可能会更糟。