《Sam Altman:GPT-4,人类创新的巅峰》

发表时间: 2023-04-04 11:16

整理 | 邓晓娟 责编 | 梦依丹
出品 | CSDN(ID:CSDNnews)

3月20日,OpenAI 联合创始人& CEO Sam Altman 和科技主播 Lex Fridman 进行对谈,主要讨论 GPT-4、通用 AI(AGI)、 OpenAI 公司、AI 带来的潜在问题,以及 AI 的未来。总体来说,Sam Altman 认为,GPT-4 等 AI 系统并非少数人的成果,而是源于无数人的共同努力,是人类智慧的结晶,成果也应当由人类共享。笔者整理了一些对话中大家比较关注的点,看看 Sam Altman 是如何回应的。


GPT-4 是通用 AI 吗?


据 OpenAI 官方称,GPT-4 是 OpenAI 扩展深度学习的最新里程碑,虽然目前在许多现实场景中仍然不如人类,但在专业和学术基准上均能体现出人类的水平。

那 GPT-4 到底属不属于通用AI(AGI)的范畴?对于这个问题,Altman 表示暂且不纠结其具体定义,只从“I know it when I see it”的角度去思考。当一个事物出现之前,人们很难具体想象或理解得到它到底到哪种程度。比如在使用 GPT-4 之前,先在一本科幻小说里看到有个角色是 AGI,而这个角色是 GPT-4,描写了 GPT-4 能够做到的如今 AI 做不到的事情,他会觉得这本书很荒谬。所以距离 GPT-4 成为真正的通用 AI,还有很长的路要走,因为覆盖面、普适度还不够。

Altman 认为,所有不能大大增加人类科学知识综合的系统,不能发现、发明,推动基础科学的智能,都不是超级智能。要做到这一点,人们还需要在相当重要的方面扩大 GPT 范式,而目前在这方面还没有太多 Idea,还需要再摸索有什么值得尝试的地方。


GPT-4 是人们想象中的“未来 AI”吗?


人们对未来 AI 的想象是非常丰富的,值得一谈的是,人们认为“更好”的 AI,就是与人类无限相似,甚至超越人类能力的存在;但另一方面,又对 AI 是否“太像”人类而感到惴惴不安。这种现象归根结底是人们既希望 AI 强大到能够快速理解人类意图,却又极其不希望其拥有人类的意识。

AI 是否会“觉醒”?对此,Altman 的态度是:人们围绕 AI 的一些恐惧可能并不会成为现实。人类因为天生对改变、不确定性惧怕,面对新的工具,也会因为其过于好用而感到害怕。但 Altman 指出,哪怕在 AI 非常强大之后,还是无法代替人。就像当年 Alpha Go 在国际象棋中赢了人类,但现在还是有很多人在玩国际象棋,而且人们还是更愿意看真人下象棋,而不是两个 AI 下象棋。

“人们仍然喜欢戏剧性,喜欢我们有的、而 AI 没有那些缺陷。”Altman 说。

那么,怎样判断 AI 是否拥有“人的意识”?Altman 提到了一些用于判断的测试。比如 OpenAI 首席科学家 Ilya Sutskever 提出的标准:如果你训练模型的时候,对数据集做非常精心的设定,确保在训练过程中 AI 不接触到“意识”、主观体验或任何类似的东西,然后你和这个模型讨论一些它没有训练过的东西,如果模型对于你说的大部分内容都不理解,但当你描述意识的主观体验,模型却立即回应“知道你在说什么”时,那可能就意味着 AI 可能发展出了意识。

科技主播 Lex 对此补充了一个场景,在电影《机械姬》最后,片中的 AI 机器人机械姬逃出实验室后,露出了一个开心的微笑。这时没有别人在场,所以她是在为自己、为自由而笑。《机械姬》的导演认为,“为自己而笑”可以作为一个“AI 是否具有意识”的图灵测试。


如今的 AI,还有哪些等待解决的问题?


即使 OpenAI 表示 GPT-4 是如今功能最强大、对齐最好的模型,但它仍然是一个需要不断进步和优化的工具。比如“AI 的偏见”问题。此前有人向 ChatGPT 提问,让其夸赞现任国家领导和往届国家领导,结果 ChatGPT 夸现任领导的句子要比往届领导的要长。对此,Altman 认为“小问题即大问题”,之所以会早早就公开发布,就是为了发现这类问题,并且不断对其进行改进。许多时候,人们是没有办法预料到未来会发生什么事情,比如在小时候无法想象到自己会造出AI,而且造出 AI 后,人们在纠结“夸谁夸得更长”的问题,所以说 AI 的进步是全人类推进的。

Altman 表示,当 AI 快速起飞(take off)之后,技术可能在短时间内实现爆发式增长。如果 AI 的起飞无法避免,短期内就要开始不断的进行优化,而不是任其发展 3 年、10 年之后再去干预。解决问题的方法包括:不断迭代、尽早学习、避免只有一次机会的情况,让外界尽早接触这些技术,让公众参与塑造 AI 的发展。Altman 计划全球巡回,进行用户访谈,了解不同用户的需求。未来解决路径包括给用户控制权,让用户能从全局层面给 AI 下指令。


OpenAI 的坚守和未来


Altman 告诉我们,GPT-4 是人类迄今所实现的最复杂的软件,那 GPT-4 背后的 OpenAI 为什么这么强?Altman 总结了一下。首先是做事的态度是探求真理(truth seeking),做一切能达成最优表现的事,不管它是否优雅。就像LLM(大语言模型)这个路线曾经饱受鄙夷,但他们还是坚持下来了。

其次是“不积跬步无以至千里”的理念。实现 GPT-4 并不是单纯的解决 3-5 件关键问题的事情,而是需要搞定大量纷繁复杂的小事,乘法效应让技术飞跃得以实现。比如数据获取、清洁、训练、优化和搭结构等方面的问题。以小取大。最后,团队的能力也非常重要,至今为止,Altman 依然亲自审核及批准 OpenAI 的每一个招聘决定,招聘的优先级在团队工作中非常重要;同时也要给予团队成员足够的信任和自主权,才能实现高速发展。

谈到对未来 AI 的期许,Altman 的说法是:解释所有物理现象,解决所有未解之谜。未来或许将有很多个 AGI 存在,不同的 AGI 会在不同的领域和应用上发挥作用,这是一种有益的现象。而 OpenAI 建立时定位就是非盈利组织,没有无限逐利的动力,所以能够更好地抵抗市场压力。但这种背景下就没有足够的资金来支撑完成任务,所以他们转变为“盈利有上限”的组织,来获得资本的某些加成,同时不完全导向逐利。

接下来 OpenAI 不会执着于模型参数大小(Parameter count race),而是最看重如何实现最佳性能。在面对市场压力和竞争时,Altman 强调,坚持信念和使命,虽然市场上随时都会出现更领先的技术,但 OpenAI 不会为了追赶而放弃安全性,踏实走好每一步。

参考链接:

https://www.youtube.com/watch?v=L_Guz73e6fw

https://havefun.zhubai.love/posts/2251759131969024000

https://weibo.com/1727858283/4883866638092324?wm=3333_2001&from=10D3293010