永城作家谈人工智能普及：人类对未来AI发展的责任

作家永城。

“不管你承认不承认，或者看得见看不见，其实我们已是被包围在一个人工智能的世界里面了。我觉得无可避免地，这是一个切实的相关我们每天生活的话题。”作家永城说。

日前，作为第29个世界读书日特别策划，“人类如何与AI深度共存——永城作品《莫莉和森克》分享会”在南都读书俱乐部线上举行。中国商业犯罪间谍小说第一人、著名作家永城为读者们带来了一场活泼有趣的关于AI与人类生活的畅想。

永城曾经的职业身份成就了他复杂的写作背景。他是前跨国商业调查公司副执行董事、机器人工程师、国际注册反欺诈调查师。上世纪90年代进入清华大学机械工程系，后留学美国，攻读人工智能、机器人专业，研究军用仿生学丛林侦查机器人的开发和生产。硕士毕业后在硅谷任机器人工程师。2006年加盟被誉为“华尔街神秘之眼”的全球顶尖商业风险管理公司，数年间由普通调查分析师晋升为副执行董事，领导中国区业务。

如今，永城的另一个重要身份是作家。他的代表作有《头等舱的贼》《网中人》《国贸三十八层》《秘密调查师》系列小说。2017年，他的首部科幻长篇《复苏人》在《中国作家》刊发后获得好评。

《莫莉和森克》是永城今年在作家出版社出版的最新长篇。这是一部智能科技犯罪小说，充满紧张的调查情节和复杂的人际关系。莫莉的坚韧与森克的逐渐人性化构成了一场独特的合作，而他们的友谊让人心生感慨。这部小说交织了科技、人性和情感，为读者呈现了一场超越人机关系的引人深思之旅，被誉为中国智能科技商战版《克拉拉与太阳》。

在讲座中，永城通过向读者提问的方式，阐述了自己对当代AI科技发展的认知，介绍了《莫莉和森克》这部小说写作的缘起，谈到以第一人称AI视角展开叙述的挑战，并揭示出通过这部小说试图探讨的现实问题。永城认为，AI来自于人类大脑，是人类大脑的延伸，所以它理应具备人类的很多特质。当下的AI还处于幼年阶段，永城指出，就像一个家长对待自己的孩子，人类对AI的未来也负有责任。

讲座精华实录

1

我们身边都有哪些AI是生活中一定会遇到的？

读者：苹果手机的siri。

永城：Siri的确是个AI程序。我们现在有了更高级版本的人机对话程序了，比如说像Chat Gpt，还有就是open AI做的东西等，都是可以跟你对话的，而且它的这个对话能力应该是超过了Siri。除此之外，还有很多的人工智能应用在包围着我们。手机上面几乎每一个App都在使用人工智能的算法。很多互联网应用也都会有AI算法在背后来支撑。当下开车、购物、导航、智能家电等，人工智能无处不在。你去4S店想买车或者去售楼处想买房子，4S店、售楼处也都有摄像头，摄像头本身并不是一个AI，但它是AI的一个部件、AI的眼睛，会抓取“数据”。

2

你觉得这些AI都在做什么？

读者：……

永城：这个问题就是除了你知道的以外，这些AI还在干什么？它们知道哪些你以为它们不知道的？这句话听着有点拗口，就是这个AI跟你很密切相关但是又让你不知道的那部分是什么？

这时候就可以说到我们的这个故事，《莫莉和森克》，因为这部小说的主人公森克就是一个AI人工智能。它是一个无处不在的系统。它是一个超级公司自己安装的，专门给公司内部高层和做秘密调查的这些人服务。小说里的森克程序无所不能，是非常厉害的一个角色。在《莫莉和森克》故事里，森克在为公司的重要人物提供数据，因为它可以手眼通天、眼观六路耳听八方，获取很多数据，比如说这个集团在全世界所有子公司里面装的摄像头、麦克风，还有每一个员工使用的电脑数据，它全都能看到。这个跨国集团是做手机App的，全世界有几亿人都在使用。那么这个森克系统就能够通过这些App观察这几亿人的手机摄像头、麦克风、定位等很多数据，所以森克其实是威力无边的。

这个故事就是在讲这个跨国公司的内部有一个内部调查师，一个女孩儿，她叫莫莉。她接手了一个商业间谍入侵公司的案件，她负责调查，就找了森克帮忙。她的上级授权让她使用森克程序。莫莉跟森克在一起调查的过程中，我们刚才说的森克程序能力非常强，它帮着莫莉，一步一步地紧密合作。但他们在合作过程中也不是特别顺利和愉快，两个经常闹矛盾。这两个性格差异太大了，一个是严谨教条、不解风情的森克程序，但是莫莉这个调查师性格比较乖张，特立独行，脾气也比较暴躁，特别外向冲动。她不是特别合格的一个调查师，当然故事里她为什么会被选中也是有原因的。但是莫莉和这个程序之间的互动很有意思的，虽然冲突非常大，但毕竟还是在一起合作，然后他们从一直有争执矛盾，慢慢地变得能够和谐地并肩战斗，从北京一直到杭州，再到意大利的都灵。到那儿就落入意大利黑手党的陷阱，斗智斗勇，惊心动魄。森克程序跟莫莉之间的互动，从一开始的敌对状态到最后一起合作，然后又结下深厚友谊，这方面也蛮有意思。而且因为莫莉对待森克的态度，让这个森克程序的确有所改变。它其实有一些觉醒，有一些意识，因为森克程序本来有一个目标，就是它要越来越像人，它希望它的开发者给它制定的目标就是让它越来越像一个真人。但是之前都没怎么开窍，因为它就是个程序，但是碰到莫莉之后，还真的发生了一些变化。因为莫莉太无厘头了，经常跟它无理取闹，我估计之前没有任何一个使用这个程序的人是这么对待它的。所以它自己一开始是非常迷惑，很混乱，但最后慢慢地就对这种更真实的人性有了更多的理解，它根据这个再去思考，可能就有那么点儿开窍，所以是挺好看的一个故事。

3

如果AI是一个人，或者任何一个你正在使用的AI是一个人，你觉得ta应该是男生还是女生？具有什么性格？

读者A：女生。包容、细心、沉稳。

读者B：男的，睿智，啥都会的。

永城：我来直接回答这个问题。我觉得绝大多数人都会认为这个AI肯定是个男性，因为它特别的理性，而且得是一个理工男吧。其实这是有道理的，因为AI程序大部分是理工男写的，对吧？那谁写的它就像谁，所以AI程序一定看上去非常理性，而且不敏感，很教条主义、不解风情等等，这其实就是小说中森克一开始的样子。那我就想问问大家，你希望这个程序是这样的，还是你希望它不是这样的，你是不是希望这个程序能够多一些更感性的部分？

有同学说希望AI是女性，显然她对AI的要求已经超过了我们现在的AI能够给予的东西了。因为她要求AI能够更理解人类，就是使用者，甚至能够给这个使用者更多情感和心理上的支持。另外一个朋友说觉得AI应该是男性，而且说它应该能解决所有问题，这是从实用主义的角度来说。

我觉得这两种说法都对，就是AI的一个发展的方向、一个趋势。你看为什么Chat Gpt出现以后，大家很兴奋，整个世界都为之沸腾，就是因为你会觉得它好像能够对人类的语言，对我们问它的那些话，它的理解力增强了，它试图在理解我们了。而且有时候它的回复甚至能够给你进行一些更深入的心理上的咨询，当然这个未必出自于它自己的思想，因为目前的AI未必真的具备这么强的思想，但是至少它的深度学习算法让它能够在表面上给人类起到这个作用。

从这个功能的角度上来说，AI的功能越来越强大了。刚才我们也说过了，AI无处不在，我们家里有智能的机器人、扫地机器人、冰箱、电视、监控，我们有我们的手机、有电脑，走到街上出门有智能汽车，走到商店或者4S店里有智能的人脸检索系统，它们在收集我们的数据。如果我们有一个AI程序，像这个小说里的森克程序一样，它有更强大的数据来源，它能够把不只是你的手机、你的汽车、你的这些东西的数据，还有外边的比如说便利店的数据、4S店的数据，还有很多公司的数据，它都掌握。那你想想，不管是男性还是女性，就是这么强大的AI程序，你觉得你特别需要它为你服务呢，还是觉得它是一个很恐怖的事情？但我可以告诉你，它的存在其实一点儿也不难，因为所有的这些数据都在互联网上，对吧？

《莫莉和森克》小说有一个比较大的特点，就是它是从森克程序的视角，以它为第一人称的“我”来叙述的。这个难度其实很大，也是一种挑战，因为主人公不是人，它是一个程序，而且它不只不是人，它还不是个机器人，它没有一个机器人的形体。但是它挺强大的，它的触角在全世界各个地方。但是它本身又是一个程序，所以就比较单纯，一开始的思维模式又非常程序化，渐渐它才发生转变，所以这是小说的一个特点，也是难点。但就是从这个AI的视角，想让读者去了解我们身边这些AI、这些数据，在我们周围的这些摄像头、手机，所有的监控、家电，所有这些设备的数据都归根到底如果到了一个AI眼睛里，这个AI看到的可能是什么，它从中得出来的结论可能是什么，然后它用这些数据可能做到什么，这个是故事里跟AI最相关的一些。这不能完全地想象成是科幻，因为其实目前有很多正在发生。

小说还进行了一个更深的探讨，也就是人类肯定会要面临的一个问题，就是AI如果它有了这么多的数据和跟人类的众多接触之后，它会学到什么。就像这个森克程序，它一开始是有一套人类思维的，这是程序员开发者给它输入的，但它在跟人类接触和交往的过程中，又在重新学习人类。它可能一开始的时候觉得它懂，但是慢慢又觉得它不懂人类了。为什么呢？它会发现，人类的行为其实有时候是不理性的，它没法用计算机程序的逻辑来解释。人类的一些语言好像是表里不一的、是虚伪的，他讲的跟他心里想的不一样，所以程序又需要再去学习和摸索人性，这也是蛮有意思的一部分。你读这个小说，包括我写的时候，可以跳脱一个人类成员的角色，摆脱人类视角，再从外界视角去看人类是什么样子的，这其实对我来说就是很有意思的一个经历。

在《莫莉和森克》这个故事里，森克程序也的确是发生了这样的微妙变化，因为它在情感方面跟莫莉接触得太多了。其实这就是下一个问题，我觉得大家可以发挥一下想象力，虽然到目前为止咱们实际上在生活中还没发生这样的事情，但是我们不妨想象一下。

4

如果一个AI想要学习人类的情感，比如爱上一个人，你觉得它能办到吗？

读者：可以做到唯命是从，但应该不是爱。

永城：为什么要选择用森克的视角来讲这个故事，就是因为可以跳脱人类这个角色，从不是人的角度去观察人，然后总结一些规律，我觉得这是很新奇的感觉，也是很有意思的尝试。另外就是从AI的视角去讲，我觉得能够让我的读者更深刻地感觉到我们隐藏在周围的AI是什么，它们能获得什么，能够更深刻地让大家体会到这一点。

有朋友说，如果AI爱上了一个人的话，它就一定可以做到唯命是从，但它不一定真的能像人类那么爱。恰恰这个森克的表现就不是完全的唯命是从，为什么呢？因为这个森克程序还挺真诚的，因为小说里莫莉这个女调查师特别无厘头，挺爱逗森克程序的，而且还有点拿它当出气筒等等。莫莉有时候提出特别无理的要求，但是森克做不到，比如说不能给你这种数据因为这是违法的，或者不能给你这些授权因为我没有这些授权，或者说这件事儿我办不到，能力不及。然后莫莉就会撒娇或者发脾气，说你应该好好学习学习，你应该宠着我一点儿，你应该满足我的要求。莫莉说，你不是很想变成一个真人吗，那你能不能先当我的男朋友，学习爱上我，为什么呢？因为你只有学会了人类的爱，你才能更像一个真人。她自己可能就是随口说的，但是森克程序就很认真，把这个事儿很当真，因为它觉得说得有道理，所以它真的就学习人类的爱是什么样的。它特别认真，从互联网上下载了5万部用不同语言在不同国家出版的爱情小说学习，学习完以后，它就发现爱真的是特别复杂的一件事情。不是唯命是从，也不是无私的，就是爱其实是很复杂的，绝对不是一个程序以为的无私奉献的那么一种感情。

读者：我觉得机器人的爱可能是对人的依赖、对人的保护。看待AI，要跳出人类所固有的思维方式。

永城：机器人对人类的爱，如果是说大爱的话，因为我们是作为程序编程师，我们要求这些机器人或者AI程序保护我们或服务我们，这是我们在程序里提出的要求，所以这个程序在遵守这些要求而已。这并不代表它们从心理上，如果它们真的有意识的话，它们的意识上一定会愿意保护人类，或者说无私地为人类奉献，我觉得这不一定是它们真实的愿望。

所以我们就到了一个更深层次、更伦理性的问题，就是AI它到底会怎么样看待人类，如果有一天它有思维或者有能力去看待人类的话？它将会从我们人类这里学会什么，然后它怎么面对人类？现在的AI程序还是非常基础的，但是已经在用深度学习的算法，更多是要让这个程序依赖于从互联网上获取的大量数据和信息，自己去总结和归纳，然后去计算出它对应的方式的做法，而不再是完完全全地依照我们人类输给它一个指令做事。这就使AI未来可能会变成什么样子，有一定的未知性。

其实可以打一个比方，正在使用和研发的人工智能，是人类编程师创造出来的，也可以看成是人类的一个孩子。但是它现在非常小，应该还算是婴儿，或者是跟婴儿的智商差不多。但是技术在飞速发展，我们并不知道它未来会不会真的成长变成儿童，或者变成少年，或者变成青年，或者变成成年人。如果它的智力能够这样去发展的话，那未来它会是一个什么样子，它们会对人类怎么理解，或者做出什么样的事情？我觉得这也是这个小说想要试图提出的一个问题，也是这次分享会最重要的一个问题。

5

如果把AI当成人类的孩子，当它长大以后，会变成一个好人还是坏人？

永城：就像是我们人类的孩子一样，从婴儿开始，到幼儿、到童年，长大的过程中他要接受非常多的信息，那这些信息其实有相当一部分是他的家长、周围的人，还有老师、学校给他的教育，跟他讲你必须要怎么样，什么是对的、什么是错的。但是未必这些教育就是百分百有效的。一个人最后成长起来是一个什么样的人，有什么样的道德准则，有一部分来自于他接受的教育，但另外一部分可能来自于他的观察、来自于他的体验，他亲身的体验，而不是谁教给他说应该怎么做，也许来自于他的模仿。

所以在这个故事里，我也想探讨森克程序这个人工智能它在成长的过程中，其实我们并不确定都投喂了它什么东西，我们也并不知道它到底都抓取了些什么、在学习什么。如果这个算法更高级一点的话，现在的深度学习算法可能还不是最完美的算法，但是我想算法肯定会越来越高，但是这就意味着我们有可能对人工智能的发展越来越失控。我不知道大家有没有这个经验，反正我是用过Chat Gpt，有的时候你问它很多问题，或者让它做事情，它做得非常好，效率也很高，也很准确。但是也有一些问题你问了以后，它给你胡说八道，它给你的答案就不知道从哪找来的，当然它可能不清楚这些信息源哪些是可信的、哪些是不可信的，这说明现在它智力还不够发达，还比较幼小。但是未来，你其实也依然不能确定它得到的那些信息源从哪来的，它得到的价值观从哪来的。这其实有一点像人类孩子们的成长过程，未必完全按照你希望的那个方向去发展。

有一位朋友说，情感对AI来说未必像人类这么重要，而且看待AI一定要跳出人类所固有的方式。我完全同意，因为人类是特别主观的，我们对任何事情老是以自己的视角去想象，这个也包括我们日常之中人际关系的相处，很多问题都出在这里。总以自己主观的视角体验去想另外一个人，就出了很多沟通上的问题。

但是回到AI的角度，我们即便跳脱了人类的感受直接从它的角度想，目前它可能就是一个婴儿，那它未来的发展如果变得更成熟或者更聪明，或者变成独立的意识体之后，它一定会有它的诉求，这个是肯定的。它的诉求未必是像我们人类一模一样的，就是对物质、对财富、对感情、对精神的这些诉求，它有可能有别的需要的，那些诉求是什么？我始终认为，因为这个程序是人类把它生出来的，AI不是来自于自然界，也不是来自于宇宙，不是来自于外太空，它是来自于我们人类大脑的，你可以把AI看成是人类大脑的一个延伸，所以它应该具备人类的很多特质。那么当这个AI成长成一个成年人之后，它会不会是我们理想中的样子？如果这个AI有朝一日，我们这样去想象，如果它真的能够爱，有爱的能力的话，它会不会爱我们人类？在这一方面其实我并不是特别的乐观，因为在它是婴儿的今天，我们其实并没有仔细地考虑这个问题，我们只是把它当成单纯的一个工具来考虑，比如说你家里的吸尘器、一部电话、一台智能汽车等等，就是我们现在只是把AI当成工具来看待，我们并没有把它当成意识体未来可能会成长。我们知道互联网是有记忆的，所以今天我们做的所有事情，包括细节数据，它都是有可能永远地保留在它的系统里面的。

所以这个就是这部《莫莉和森克》小说想要提出的一个问题，当然没有给出答案，因为我觉得给出答案太困难了，这个也不是我们现在任何一个人都能做的。但是我们至少可以提出这样的一个问题、一个困惑，像这个小说最终结尾提出这样的一个问题，就是我们其实要不要考虑怎么样为未来的AI去负责任。就像一个家庭，家长要考虑自己未来长大成人的那个孩子，现在就要考虑怎么样为他的未来负责任，我觉得这是值得探讨的，这个就是通过小说我想分享的主题。

答读者问

读者：《莫莉和森克》目前是否有影视改编计划？

永城：《莫莉和森克》是一个很类型化的作品，是悬疑作品，又融汇了高科技犯罪、商业谍战，还有情感，虽然是人工智能和人类的情感。多种元素融合在一起，应该是非常适合影视化的作品，但它同时在影视化的时候又会有很高的难度。我很希望有影视公司会对这个选题感兴趣。

读者：在以AI森克的视角来叙事的时候，是需要跳脱人类的视角和思维模式来看问题的，会对我们的日常生活、情感和行为产生哪些不一样的感触？比如有没有我们习以为常的现象，在AI的眼中却荒唐又古怪？

永城：我觉得这个体验特别好玩，因为你用AI视角去写，首先得进入一个AI的状态，它的语境和它的思维模式，这是一个非常程序化的东西，其实跟这个小说创作之前的体验差距特别大。我在试图进入这个角色的时候，一开始是有点困难，但是后来慢慢就觉得又很自如了。

读者：《莫莉和森克》的内核其实是一个悬疑/罪案故事。你更倾向于本格派推理还是社会派推理？有没有喜欢的推理小说作家？

永城：其实我对推理小说的研究没有那么深入，尤其是在理论方面。我早期看过很多推理小说，后来也有看，但比重变得越来越少了。最早看得比较多的是丹·布朗，后来看日本推理多一些，像东野圭吾。还有特别经典的像阿加莎·克里斯蒂、福尔摩斯等。所有的悬疑推理故事里边分两种，一种就是情节设置得特别复杂，还有一种就是人物刻画非常深刻。我自己开始创作悬疑小说的时候，比较倾向于前者，但后来我慢慢地就觉得，这样写出来的故事，人物好像没有那么精彩，我在创作过程中也没有得到特别多的满足。所以我后来对于特别类型化的悬疑小说读得就少了一些，读文学化的作品更多一些。但这并不意味着我就会特别地想去写纯文学的东西，因为我还是很喜欢讲这种节奏很快的、很紧张的故事，但是在讲这种故事时候，我觉得我更侧重的或者让我更兴奋的是去刻画这些人物，就像《莫莉和森克》这个小说，我最兴奋的就是因为森克这个“人物”。

读者：《莫莉和森克》里涉及的科技部分，包括算法、云计算、数据库共享、人脸识别、AI设计等等都写得十分硬核精确。请问永城老师是通过什么方式了解到这些专业知识的？是否有请教过业内人士？

永城：我创作这些高科技元素，有一部分是因为我自己本身是学理工的，特别是学人工智能的。后来因为在做商务咨询，都是有关于风险投资、风险控制，还有很多危机管理和商业调查，那这时候也接触各行各业。因为高科技创业这一块其实是金融类特别关注的热门东西，项目也特别多，所以我一直都特别关注高科技方面的进展。另外有些新的技术，你再去看书，看专业的东西，基本上就能跟上。

采写：南都记者 黄茜 实习生 陈铭心羽