人工智能的转折点已至,我们是否应该暂停一下?

发表时间: 2023-03-29 20:33

在股市上有个“擦鞋匠”理论,说的是如果连擦鞋匠都在对股市高谈阔论,还给别人推荐股票,那一定离崩盘不远了。如今擦鞋匠不容易找了,但的确满城争谈GPT。与股市不一样的是,人工智能不仅没有崩盘之虞,反而正在掀起一场竞赛。

人工智能正在以超人的速度向前发展。自从去年11月ChatGPT发布以来,我学会了如何防止过度烹煮三文鱼。在同一时期,OpenAI的聊天机器人学会了怎样瞬间将一张手绘草图变成一个可运行网站,在60秒内建立一个类似经典游戏Pong的视频游戏,在律师考试中获胜,并根据留在冰箱中的食物的照片生成食谱。人工智能尤其让人联想到思维机器的概念。但没有机器可以思考,也没有软件是真正智能的。

虽然我并不相信ChatGPT有智能——大型语言模型并不产生真正的知识,只是给人一种智能的错觉,但还是要说,OpenAI的ChatGPT、谷歌的Bard和微软的Sydney是机器学习的奇迹。粗略地说,它们获取大量的数据,在其中寻找模式,并越来越熟练地生成统计学上的可能输出结果——比如看似人类的语言和思想。这些程序被誉为通用人工智能(AGI)地平线上的第一道曙光——那是一个长期预言的时刻,机器人思维不仅在处理速度和内存大小方面超过人类大脑,而且在智力洞察力、艺术创造力和其他各种独特的人类能力方面也超过人类大脑。

3月22日,来自微软的研究人员在arXiv上发表的一篇新论文声称,“除了对语言的掌握,GPT-4还能解决新颖而困难的任务,这些任务涉及数学、编码、视觉、医学、法律、心理学等等,不需要任何特殊的提示。此外,在所有这些任务中,GPT-4的表现都惊人地接近人类水平,而且往往大大超过了ChatGPT等先前的模型。鉴于GPT-4能力的广度和深度,我们认为可以合理地将其视为AGI系统的早期(但仍不完整)的版本”。

在过去30年里,少数产品真正颠覆了科技行业,使之前的产品看起来像笨重的恐龙。ChatGPT是可以媲美这些划时代产品的东西,就像智能手机和社交网络刚出现时一样。

首先,ChatGPT是普通大众对现代人工智能变得多么强大的第一次亲身经历。多年来,像Siri和Alexa这样的虚拟助手,也使用人工智能,但它们是笑话的焦点,因为其实并不特别有用。而ChatGPT的功能让人惊艳,许多人正在认真考虑如何将这些工具融入他们的日常生活和职业。

到目前为止,人工智能应用的大部分进展都是在后台。ChatGPT以更明显的方式向消费者提供价值,而不仅仅是面向后端开发人员或数字营销专业人士。由于该系统可以编程并执行其他业务任务,它降低了很多事情的门槛,同时提升了专家的生产率,处于令工作的本质发生转变的临界点。

其次,ChatGPT的拟人化也给流行帮了大忙。使用最先进的AI算法之一向最新的聊天机器人问好,你会不时地想知道你是在使用 ChatGPT与人还是同聊天机器人交谈。它显然是有记忆的,机器人可以回忆起之前在对话中发表的评论并将其复述给你。根据许多用户的报告,不论是ChatGPT,还是微软整合ChatGPT之类基于语言的AI技术打造的必应机器人Sydney,似乎在聊天过程中还显示了情感。

社会科学研究表明,人们倾向于像对待人类一样与技术互动。ChatGPT之所以面向全社会大规模测试,目标是向 OpenAI 提供用户反馈,以便改进算法。通过被称为 RLHF(从人类反馈中强化学习)的过程生成的文本更容易被人类评价。

第三,ChatGPT带来了我们内心深处的一种恐惧——如果人工智能改进得如此之快,有谁的工作是安全的,我们何时会被机器人大规模取代?“人工智能通过美国医师执照考试。”“尽管ChatGPT表现平平,但还是通过了法学院的考试。”“ChatGPT会得到沃顿商学院的MBA吗?”诸如此类的标题最近都在吹捧(而且常常夸大)ChatGPT的成功,这遵循了将人工智能的能力与人类专家进行比较的悠久传统,例如AlphaGo在2016年的围棋大赛中击败李世石。最近这些头条新闻隐含的潜台词是更加危言耸听:人工智能正在为你的工作而来。

我们已经达到了人工智能的转折点,现在是一个暂停和评估的好时机。我们如何才能合乎道德和安全地、并且不失人类尊严地使用这些工具?《控制论》的作者维纳说过:“第一次工业革命,即‘黑暗的撒旦工厂’的革命,是机械的竞争使人的手臂贬值……现代工业革命同样注定要贬低人脑的价值,至少在更简单和更常规的决定中是如此。”人脑贬值的时代来临了吗?

机器会不会让大多数人变得多余?还是会使所有人有更多的自由时间和更充实的生活?当人工智能最终到来,维纳认为“答案是建立一个基于人类价值而非买卖的社会”。

(作者系北京大学新闻与传播学院教授)


发于2023.4.3总第1086期《中国新闻周刊》杂志

杂志标题:GPT-4是否预示着人脑贬值的时代来临

作者:胡泳