专家揭秘：ChatGPT为何无法称为真正的"智能"？

一篇新论文认为，从 ChatGPT 等系统中看到的人工智能，由于缺乏体现和理解，与人类智能有着本质区别。这种差异突出表明，人工智能并不与人类一样关注这个世界，也不与这个世界建立联系。

加州大学的安东尼-切梅罗（Anthony Chemero）最近发表了一篇论文，解释了与人类思维相对的人工智能思维。

人工智能的兴起引起了技术高管、政府官员和普通大众的不同反应。许多人对 ChatGPT 等人工智能技术充满热情，认为它们是有益的工具，有能力彻底改变社会。

然而，也有一些人对此表示担忧，他们担心任何被称为"智能"的技术都可能拥有超越人类控制和支配的能力。

辛辛那提大学文理学院哲学和心理学教授安东尼-切梅罗认为，语言学混淆了人们对人工智能的理解： 虽然人工智能确实具有智能，但它不可能像人类那样具有智能，即使"它可以像它的开发者一样撒谎和胡说八道"。

Anthony Chemero，辛辛那提大学哲学和心理学杰出研究教授。图片来源：Andrew Higley/UC Marketing + Brand

根据我们日常对这个词的用法，人工智能肯定看上去相当聪明，多年来市场上也一直存在着所谓智能计算设备，切梅洛在他合著的《自然-人类行为》（Nature Human Behaviour）杂志上发表的一篇论文中解释道。

人工智能的特点和局限性

首先，论文指出，ChatGPT 和其他人工智能系统都是大型语言模型（LLM），是在从互联网上挖掘的大量数据基础上训练出来的，其中很多数据都与发布数据的人有相同的偏见。

"LLM生成的文本令人印象深刻，但往往是无中生有，"他说。"它们学会了生成符合语法的句子，但需要比人类多得多的训练。它们实际上并不知道自己说的话是什么意思，"他说。"LLMs不同于人类认知，因为它们不是具身的。"

制造 LLMs 的人把它们胡编乱造的行为称为"幻觉"；不过切梅罗说，"把它称为'胡说八道'会更好"，因为 LLMs 只是通过重复添加统计上最有可能出现的下一个词来造句--它们不知道也不关心自己说的话是否真实。

因此，只要稍加怂恿，就能让人工智能工具说出"带有种族主义、性别歧视和其他偏见的下流的话"。

智能中的人的因素

切梅罗的论文旨在强调，LLMs 并不像人类那样具有智能，因为人类是具身的： 活生生的人总是被其他人类以及物质和文化环境所包围。

"这让我们关心自己的生存和我们生活的世界。"他指出，LLMs 并不真正处于这个世界中，也不关心任何事情。

主要的启示是，LLMs不像人类那样聪明，因为它们"根本不在乎"，Chemero说，"事情对我们来说很重要。我们致力于生存。我们关心我们生活的世界。"