科学家警告：加入ChatGPT浪潮可能带来风险，与创新探索背道而驰

去年12月，ChatGPT首次被《自然》杂志“破例”列入年度科学人物，“以承认生成式人工智能给科学发展和进步带来的巨大改变”。

1月21日，AI（人工智能）在“瞰见未来”2024复旦大学管理学院新年论坛上，再一次成为关键词。中国科学院院士、ChatGPT核心研发科学家等分享了他们对于人工智能的认识和期待。

【人类如何应对比自己更强大的智能】

“据不完全统计，60%的行业已经在使用人工智能。”中国科学院院士、华科智谷人工智能研究院院长何积丰在演讲中表示，人工智能学习知识的速度是人类平均速度的一倍以上，它检索知识所花费的时间是人类的20%，“估计到2026年，人类历史上所有有价值的文字数据，都会被人工智能系统消化。”

何积丰

对于发展如此之快的人工智能，我们有思想准备吗？大模型开启了真正意义上的通用人工智能，人类如何应对比自己更强大的智能？这是前三次工业革命从来没有遇到过的问题。

何积丰认为，大模型的训练过程涉及大量用户个人信息和数据，使用过程也涉及很多用户私密信息，这些信息并没有受到应有的隐私保护，而大模型的生成能力让“隐私泄露”的方式变得多样化，也让隐私保护更加困难。

“我们还需要做好‘对齐’的挑战。”何积丰说，所谓对齐，是系统的目标和人类价值观一致，使其符合设计者的利益和预期，不会产生意外的有害后果。但人类价值观是多元且动态变化的，人类的价值与判定系统本身便充满了偏见和盲点，有非常多互相矛盾的地方和没有明确指出的潜在条件，这导致“对齐”成为一项令人眼花缭乱的跨学科研究，它不仅仅在考验我们的技术，也在审视我们的文化。

人工智能将如何重构社会分工？在何积丰看来，人工智能的应用使得那些例行性任务变得更加次要，人们将专注于更高层次的规划和分析工作。未来的职场将会更加重视发现和解决问题的能力、创造力以及批判性思维，还有主动学习和获取新技能的能力。人工智能带来的价值增长，大约75%集中在四个领域：客户运营、营销和销售、软件工程和产品研发。

麦肯锡咨询公司认为，人工智能取代人类工作的时间被大幅提前了10年，在2030年至2060年间50％的职业将逐步被人工智能取代；人工智能每年可为全球经济带来2.6万亿至4.4万亿美元的增长，生产力提高0.1%-0.6%，相当于每年贡献一个英国的GDP。可能使员工60％到70％的工作实现自动化；对高薪、高学历的知识工作者影响更大。

人工智能时代，如何提升个人能力？何积丰认为，需要专精自己的优势和专业领域，不断提高自己的专业水平；需要思考如何把人工智能应用到自己的专业中，提高自己的产出和效率；不断接收新信息、拥抱新知识，拓展自己的视野。

【2024年对于人工智能意味着什么】

作为ChatGPT核心研发科学家、前OpenAI（美国开放人工智能研究中心）研究员、《为什么伟大不能被计划》作者，肯尼斯·斯坦利和乔尔·雷曼，接受了复旦大学管理学院新年论坛的在线访谈。

人工智能创新领域发生了哪些变化？“我学术生涯的开端就是进行神经网络相关研究，当时的研究涉及二三十个神经元，而现在我们讨论的神经网络包含几十亿个神经元。不过，人们对未来的态度始终在‘夏天’和‘冬天’之间切换，有时乐观，有时悲观。”乔尔·雷曼说。

在肯尼斯·斯坦利看来，也许最大的变化之一就是回到大约20年或者25年前，从第一性原理出发就能创造一些全新的东西，基本上一个人能解决所有事情，那时一切都很便宜，做出来的东西可与当时最尖端技术一较长短，但现在的情况完全不一样了，得有一个巨大的团队，配齐最先进的GPU（图形处理器）。

肯尼斯·斯坦利最近创办了一个社交网络，作为创业者他如何说服投资者用真金白银来支持“无目标探索”？“我们经常听到类似的问题，一般而言大多数投资人会想知道预期利润是多少，但也有特殊情况，比如通过投资来促进探索，投资人发现我们的团队探索能力很强，可能会研究出一些有趣的东西，虽然不确定何时才会有收入进账，也不知道产品是什么样的。甚至可以说OpenAI就是这样，当埃隆·马斯克投资OpenAI时，根本就没有类似五年之后创造出ChatGPT的计划，所以我认为投资人有时候愿意投资‘无目标探索’。我们写《为什么伟大不能被计划》这本书的原因之一，就是要让更多投资人愿意这么做。”肯尼斯·斯坦利说。

2024年对于人工智能来说意味着什么？乔尔·雷曼认为难以准确预测技术的走向，2024年可能并不像我们期望的那样具有划时代意义。但如果是的话，竞争似乎会变得更加白热化，如果准入门槛降低了，每个人都可以应用大模型，人们会尝试更多的想法，解锁很多新的应用，但对个体创新者而言，这么激烈的竞争可能并非一件好事。

肯尼斯·斯坦利赞同这种说法，“很多人涌入人工智能领域，这是一种过度饱和的迹象。加入已经形成的‘浪潮’中有危险，这种做法与新颖性探索相悖，这是去加入竞争，而不是远离竞争，如果非常擅长这个领域，那可能是个好主意，因为很明显这是一个有利可图的领域，但如果并不确信自己就是世界上最优秀的，那可能就非常危险了，因为世界上最优秀的人一定会和你竞争。”

题图来源：黄海华 摄

文中图片由复旦管院提供

来源：作者：黄海华