OpenAI首席执行官警告：大型语言模型的规模已接近极限
发表时间: 2023-04-16 22:32
要问现在全球什么科技产品最火爆？那必然是ChatGPT啊！小编也在之前多次的向各位小伙伴介绍ChatGPT以及其全球竞争对手的消息，但就目前来看更新了GPT-4的ChatGPT要领先其他产品一些。前端时间，随着最近GPT-4语言模型的正式投入使用，ChatGPT也带来了全新的插件——网络浏览器和代码解释器，赋予ChatGPT使用工具、联网、运行计算的能力。更新后，跟据全球媒体的反馈来看，GPT-4相较于GPT-3.5确实有很大的性能提升，但出乎全球AI关注者的意料的是最近这种能力似乎有了全新的进化。(GPT-4反思后，准确率为88%，之前为67%)一名前谷歌大脑研究工程师发现了GPT-4可以合理的方式批评自己的成果，也就是说GPT-4模型已经有了一定的反思能力，这再一次加快了GPT-4模型的进化速度，据相关媒体测试称，有了反思能力的GPT-4测试成功率相较于没有反思能力的GPT-4提升了30%。如此快速的增长也带来了不少问题，比如前段时间，全球均在讨论的AI的不可控以及个人信息安全的问题，并且以意大利为代表的相关国家已经对ChatGPT实施了禁用，并且表示必须满足相关要求才可以继续对公众开放。不只是意大利等国，德国、法国等国家也可能跟随意大利的做法对ChatGPT进行停用，并且德国相关组织表示已经与意大利相关组织进行了联系，并讨论了调查结果。此外，为了应对AI失控和各项监管问题，网上曝出了千位全世界科技人士的联名信，呼吁所有人暂停训练比GPT-4更强的AI，暂停期至少6个月。今日，根据相关媒体报道称，OpenAI CEO在麻省理工学院“想象力行动”活动上接受了采访，谈到了大语言模型的发展趋势和安全问题。据其认为，目前正在接近大语言模型规模的极限，规模越大并不一定意味着模型越好，而可能只是为了追求一个数字而已。大语言模型的规模不再是衡量模型质量的重要指标，未来将有更多的方式来提升模型的能力和效用。他还回应了一封要求 OpenAI 暂停开发更强大 AI 六个月的公开信，他表示他同意在能力越来越强大的情况下，安全标准也要提高，但他认为信件缺乏技术细节和准确性。他说，OpenAI 在发布 GPT-4 之前已经花了六个月以上的时间来研究安全问题，并邀请外部审计和“红队”来测试模型。“我也同意，随着能力变得越来越强，安全标准必须提高。但我认为这封信缺少了关于我们需要暂停的大部分技术上的细微差别 —— 这封信的早期版本声称我们正在训练 GPT-5。我们没有，而且在一段时间内也不会，所以从这个意义上说，这有点愚蠢。“。目前来看，OpenAI还暂未有GPT-5的计划，并且已经对相关安全性做出了考量，但未来发展以及实际效果如何还无法得知，感兴趣的小伙伴可以保持关注。
鲁公网安备37020202000738号