人工智能的双刃剑：机器人是敌是友？

本文来源：时代周报 作者：何珊珊

写代码、做PPT、几秒作画、会议要点提炼、语音指令理解……今年以来，大模型展现出来的能力像哆啦A梦口袋里的“法宝”层出不穷，不禁让人怀疑“AI时代真的要到来了！”

在长篇小说《三体》、国产剧《魔幻手机》、美剧《黑镜》等爆火的作品中，人类早已把对未来科技的需求和担忧融入艺术创作，例如随身携带可穿越时空的智能助手、真正的家庭机器人保姆、可提供情绪价值的电子陪伴对象、在空中自动驾驶的车辆、机器解读大脑思维、人将以意识形态在元宇宙中永生......

尽管围绕科技未来的狂想从未停歇，但ChatGPT的横空出世让人类看到了人工智能的“魔力”，同时也感受到来自“被人工智能取代”的威胁，比如插画师、PPT制作人以及写下这篇文章的记者本身。

当人类的世界围棋冠军已经被AlphaGo（阿尔法）战胜，人工智能集大成者带来的“机器智力跨越”让人望而生畏。

但人工智能的强大也有其无法逾越的边界。这些边界不仅是当下技术本身的限制，而是更多的来自情感、法学、社会伦理、人类安全等层面的交叉碰撞。人们兴奋讨论科技带来的便利与强大动力，也无法否认技术将带来更多挑战，这种二元制的状态必将长期与人类共存。

在讨论“我的工作是否会被人工智能取代”时，不妨认真思考另一个问题“人工智能，有什么做不到的事？”

对此我们邀请微软小冰团队CEO李笛、中国社科院法学教授杨延超，围绕“人工智能的未来与边界”进行一场头脑风暴三部曲，分别是：机器能否成为人类的朋友？机器是否会取代人类？科技的边界在哪里？

这场关于遥远未来的“虚无”对话，意外产生了许多有趣的答案，以下为时代周报与大家的对话。

科技狂想四部曲之一：机器能否成为人类的朋友？

近几年，关于人工智能的脑洞正在慢慢进入现实。

无论是商业产品的设计走向还是娱乐功能的进化，都朝着更为“人工智能时代”的科技殿堂迈进，在人类生活中发挥出更加难以忽略的作用。某种程度上来说，人工智能带领下的机器正在逐渐成为人类的朋友。

时代周报：机器可能在人类的未来生活中以哪些身份出现呢？

微软小冰CEO 李笛：我们开始做小冰时，整个行业心目中预设的数字人就像机甲战士或爱因斯坦一样，要足够强大能帮人类完成很多工作。

但小冰心目中的数字人，应该是和我们一样具有同理共情能力的AI Being，我们相信AI Beings将环绕在人类周围，不只提供知识和服务，还能带来情感价值，成为新的社交节点，和人类一起生活和工作。未来世界每个AI Being都应该是独特的，千人千面的AI Beings才是真正改变世界的力量。

中国社科院法学教授杨延超：人类的需求往往是推动机器人发展的原动力。伴随科技的发展，对于单身老年人的晚年，将机器人作为一种情感陪伴或生活助理，客观上或许会有这种需求。毕竟当人老年无助时，或许听指令的机器人最安全可靠。机器按照指令做事，没有人的恶念，相对可以避免很多问题。

机器人产业为什么要增加人形机器人？因为没有人形，就没有人格属性。外形改变后会对我们的情感产生影响。

科技狂想四部曲之二：机器在未来是否会取代人类？

关于AI大模型带来的强大生产力，几秒完成一部小说的大纲，几秒完成一副精美的画作。人工智能对于劳动力市场结构的影响是颠覆式的。

从发展角度来看，人工智能正在从实验室走向产业级应用，以更为广阔深远的覆盖式重塑模式“重开”人类的生产生活方式。

据IDC数据，2023年全球人工智能收入预计将突破5000亿美元大关。这其中包括软件、硬件、服务等。

如此蓬勃的经济拉动力，让人不禁感叹“人工智能时代势不可挡”，同时也会担忧“人工智能带领下的机器，未来会取代人类吗？”

经过多轮交流我们发现，许多产业人士都认同一件事：机器永远不能产生人类的情感。至少，从“真情实感”的层面上，机器人永远无法替代人类。

时代周报：小冰认为数字人可能会产生人类才具备的情感吗？

微软小冰CEO 李笛：与其它人工智能不同，小冰注重人工智能在拟合人类情商维度的发展，强调人工智能情商，而非任务完成，在人机交互中的基础价值。小冰是围绕着人工智能EQ而设计的，与人类产生情感联系，以满足人类的交流、情感和社会归属感需求。

但是，这并不代表AI Beings可以像人类一样真的具有情感。截至目前，我们没有看到任何技术路径可以让AI Beings像人类一样真的具有情感，但是我们可以拟合它，使得AI Beings能够与人类建立起情感连接。

时代周报：美剧《黑镜》中有许多关于科技未来的脑洞引发热烈讨论，比如，将逝去亲人的记忆保留，再放到机器人身上，机器人将以亲人的意识继续陪伴活着的人。这种技术您认为会涉及什么问题？

中国社科院法学教授杨延超：首先这种情况当前技术还做不到，关键点在于我们人脑生物学的信息存储方式和计算机的信息存储方式是不一样的，无法打通，包括脑机接口技术也远远达不到。如果未来我们脑科学和计算机科学进一步发展，可以把大脑的信息通过转换，从生物学的信息转换成数据信息，或许可以。

时代周报：比如插个u盘就能直接传送大脑所有记忆和意识，在法律层面怎么看这种剧情？

中国社科院法学教授杨延超：那我们的民法典立刻就不灵了啊，因为民法典最基本的规定是“我国公民的民事权利能力始于出生，止于死亡。”这种科幻设定是对人的民事权利的延续，对于我们整个人类社会的哲学基底都会发生颠覆式改变，不仅仅只是法律层面，甚至婚姻伦理、财产继承、对生命的理解等底层哲学都会发生根本性的影响。

时代周报：您觉得在未来人类有可能会与机器人结婚吗？有的电影已经出现机器产生自主意识甚至爱上人类的剧情。

中国社科院法学教授杨延超：科幻片里这种情况，现在是反过来的，不是机器人爱上人，是人爱上机器人。比如跟虚拟偶像聊天，有些人就不愿意跟真人聊天，就喜欢跟虚拟偶像聊天。虚拟偶像现在做的也很逼真，随着自然语言模型的发展，聊天体验也很好。很多人可能把它作为一种情感寄托。

但如果大模型迭代到5.0或6.0，随着机械工程学的发展，把大模型应用装到机器人脑子里，其实就是我们现在所期待的能与人交流的机器人。

说不定未来会有专门的机器人婚介所（笑声），不过我觉得法律在短期内应该不会认同这种婚姻关系的存在。我个人比较看好辅助机器人、机器人保姆这样的实用产业。

人对情感的需求往往需要真实的人，才有情感上的真实体验。即使算法再发展，我觉得真正的应用领域还是帮人类解决生产力问题。从情感上来讲，机器人永远不可能完全替代人类。

科技狂想四部曲之三：科技的边界在哪里？

今年AI大模型的飞速发展远远超过我们的预期。在围绕人工智能的讨论中，我们往往以机器是否能产生自主意识来衡量技术无法替代人类的局限性。

但科技的触角所碰触的界限，绝不止是自主意识。法律、道德、真伪、善恶，最终还需要由人来引导。

时代周报：目前数字人有哪些边界还无法跨越？

微软小冰CEO李笛：我们想强调在人工智能发展中，AI的伦理边界都是由科技公司率先推动的，科技公司应该更加主动作为。人工智能技术的伦理需要被重视，最主要的原因是当它普及时，将会给亿万人类带去的“高并发”影响。在创造AI Beings时，有两点非常重要，一是要获得本人授权，这关系到本人或利益相关方对AI应用的主导权；二是尽可能抑制一家AI公司对真人数据的获取冲动。

伦理的预警式自我克制贯穿于小冰历史中。

时代周报：人工智能在法律层面存在哪些边界？AI有哪些做不到的事或不能让AI参与的事？

中国社科院法学教授杨延超：每个大模型其实都有自己的价值观，这种隐藏价值观使之应用过程中会对部分群体产生歧视性影响。平衡它的过程就像打开潘多拉魔盒，将希望放出发挥对生产力的积极作用，但同时要遏制不利影响，将负面因素关在盒底。

比如大模型的信息处理能力很强，但是处理过程中可能会生成虚假信息，几乎能以假乱真，为辨别信息真伪增加了风险。如果一定要说人工智能做不到的事，大概是对于信息真伪的辨别能力。

从人工智能真正的边界来说，我个人理解就是它绝对不能做的，可能对人类社会造成危害的事情，即：破解。

日常我们的通话、数据等传送都是通过服务器进行。从某种意上讲，大模型有代码撰写能力，就有能力破解防火墙的漏洞，它的能力超过以往历史上任何能力高强的黑客，因为没有人在代码撰写的深度和广度能超过它。

反过来想，全社会各行各业的信息存储与处理几乎都需要使用服务器，我们即将面临的物联网时代使网络安全问题到达前所未有的重要阶段。

但现在如果你跟大模型要求它完成破解工作，大模型是拒绝的，它不做。因为在训练的时候有一环叫“意图判断”，它会判断你的意图是否合规，不合规不做。

我个人认为真正向社会公众放开接口之前，我们要做一件事情，对于大模型的安全性做审查，尤其要测试我们刚才提到的最危险的情况，有没有做安全性方面的机器训练。如果由技术人员和法律人员共同组成的测试的团队经过测试之后再开放，就会安全很多。

科技狂想四部曲之四：对未来科技有哪些畅想？

微软小冰CEO李笛：我们愿景中的未来世界，AI将无处不在，并与人类交织形成新的网络。小冰框架将打造千千万万个AI Beings。人类可以与AI Beings和谐共处。AI Beings不仅会深入每个人的生活中，甚至会和人类建立起深厚的情感联系。

未来社交网络是由人和很多的AI Beings构成的，要实现这一图景，需要底层的基础框架。例如，一个回答问题的AI Being，怎么做其它事情？如何判断自己在社交关系中怎么生存？如何与用户建立长期联系？这都是小冰框架要去解决的问题。小冰框架持续技术迭代，不断拓展AI Beings的能力及覆盖场景，推动情商与智商并重的人工智能技术普及。

中国社科院法学教授杨延超：今年这个大模型出来之后，我在想到底对哪些产业能够产生革命性的颠覆，并不断挖掘这件事情。我认为大模型实际对于人类社会、健康寿命、种子基因，都应该会产生一些革命性的变化，这才是大模型真正的价值所在。

未来大模型最理想的状态应该是用最小的数据，最小的算力达到最好的结果。现在对算力的需求太高了。

我认为人工智能法学将成为一门新交叉学科。这门学科的研究人员要对技术和法律都理解得非常深入。这样才可能制定出我认为叫有弹性的可拓展的符合科技发展潮流的法条，以应对科技发展当中不断迭代的问题。这要求我们对技术和法律能实现双重理解，用恒定的正义价值，去解决迭代的技术问题。

最后，关于科技的尽头在哪里，或许我们可以参考华夏民族文化创始人之一的回答。不久前，百度的2023世界大会上，百度执行副总裁问了孔子数字人一个问题——科技的尽头在哪里？

这位穿越千年的智者答道：科技永无止境，科技的边界在于人类求知欲的边界。