潮声 | AI“口替”潜藏危机，如何有效监管技术滥用？

记者 许伊雯

人工智能(AI)会不会打开“潘多拉魔盒”?

近日，郭德纲凭借一口“地道英语”说相声，引起全网狂欢。不仅如此，美国歌手泰勒·斯威夫特、马斯克、特朗普等名人也“说得”一口流利中文。

网络视频截图

AI制作的名人“恶搞”视频已屡见不鲜，但近来关于日本首相岸田文雄和印尼总统佐科等两段以假乱真的视频，引起了多国关注和警惕。这些被网友称为“人工智能嘴替”的AI视频中，人物的表情、动作自然真实，声线和腔调都和本人高度相似。

从诞生至今60余年，AI在经历两次发展浪潮后，以去年11月30日ChatGPT深度学习技术的推出为标志，开始催生出各种各样的创新应用，迎来了应用层面的大爆发。

如今，AI广泛应用于绘画、配音、视频、写作等方面，在我们的生产、生活中变得越来越常见。快速迭代的技术不断颠覆人们的想象，但随之而来的技术滥用问题也引发担忧。AI技术有哪些风险?AI侵权如何界定?又该如何对AI技术加强监管?

有人激动有人忧，这是一把双刃剑

最近，“郭德纲讲英语”“霉霉说中文”等AI视频席卷互联网，乍眼一看，不少网友直呼，“嘴型、手势都对得上，太自然了，差点就信了。”“口型都改了，AI是真无敌。”据悉，该创作来自国产AI视频翻译工具HeyGen。

记者试用了这款工具，注册、上传视频后，选取需要翻译的语言，通过一键生成，便能获得一段翻译视频。对比原片，“翻译”后的新视频不仅翻译较地道，连声线、情绪都近乎和原视频一致，而且嘴形贴合，难辨真假。有些人看好其发展前景，“以后译制片是不是可以用AI了?”AI以这种娱乐的方式破圈，真的是好事吗?

“在这个网络流量为主的时代，很多名人或许乐意通过AI工具为作品添把火，还有主播主动使用AI工具，在全球各地实现跨文化经商、交流。”成立于杭州的无界AI联合创始人马千里表示，无论是语言模型、图片模型，还是语音合成技术，各个模块已经实现突破性进展，几乎达到了以假乱真的地步。

AI的飞速发展正在颠覆人类认知。近日，OpenAI首席科学家Ilya Sutskever称，ChatGPT可能已经有了意识。在无界AI创始人、科幻作家长铗看来，目前的大语言模型的底层逻辑还是基于统计与信息加工，仍不具备意识的一些基本特征，比如主体意识，情感与记忆，趋利避害、想象力等，“不过，AI并不需要具有意识，就能拥有超级智能或通用人工智能(AGI)，能处理超级复杂的问题并独立做出决策，包括生产出具有创造性的内容。”

尽管有名人主动使用类似技术，比如纽约市长亚当斯，他使用AI工具说普通话、乌尔都语和意第绪语，来为市民提供语音服务，但AI技术的滥用已成为悬在各国头顶的达摩克利斯之剑。

据《环球时报》11月6日报道，日本一名25岁男子借助AI技术制作了日本首相岸田文雄发表讲话，并带有日本电视台台标和“突发新闻”字样的假视频。该视频引发了广泛批评，日本电视台表示“绝不容忍这种行为”，并将采取法律措施。日前，该男子已在社交媒体上发文致歉。此前，针对频发的假视频，日本总务省曾警告：“虚假和错误信息的传播会造成社会分裂，进而导致民主危机。”

印尼社交媒体最近流传一段印尼总统佐科以流利中文发表演讲的视频同样引发关注，视频中的佐科总统说中文时，嘴型、表情基本能卡点对上，声音、声线也与佐科总统非常像，视频的背景音还有观众的笑声。印尼政府部门日前专门对此进行了澄清，指出这段视频是用深度伪造技术制作而成。

“人工智能嘴替”已在多个国家蔓延，大有燎原之势，而AI技术的快速迭代，引发更多人的担忧，“大家不觉得可怕吗?AI越来越强大了。”“会不会有人用它来诈骗?”还有观点表示，“希望AI技术发展能被控制在正轨，技术滥用，就是灾难。”

AI被控诉，相关法律亟待完善

近年来，AI被广泛应用于各项领域中，它为我们的工作带来便利的同时，也引发技术滥用问题，比如有不法分子为了牟利，利用AI技术进行诈骗。

此外，AI技术还存在法律风险。今年以来，不少名人素材被频频用于商业广告途径，已有越来越多的名人向AI“宣战”。近期，又有郭德纲、蔡明等相声演员“说”英文的视频传播，尽管老艺术家们没有出面扯AI侵权的事，但法律事实已经很清楚。

记者咨询中国政策科学研究会特邀研究员、中国知名律师朱界平得知，“郭德纲、蔡明说英文”等AI视频属于典型的侵犯肖像权行为。这个权利是每个自然人都享有的权利，属于人格权的内容之一，“同时大家还不能狭义地将肖像理解为面部形象，其内容还包括面部肖像的以外的外部形象。比如可供识别的自然人的手、脚、背、甚至声音等外部形象。”

除此之外，AI技术面临的法律风险，还体现在知识产权的侵权风险，这也是今年法律圈的“热门话题”。

8月24日上午，国内首例涉及人工智能生成技术作品版权的案件在北京互联网法院直播庭审，该案未当庭宣判，却引发了广泛的讨论。这一针清醒剂下去，艺术家、作家和演员控诉AI侵犯版权频频现身网络江湖，但大多以和解告终。

“在AI生成物的法律属性方面，我国司法实践中对AI生成物的可著作权性尚无统一判断标准，还需结合具体案情进行分析。”北京中伦(杭州)律师事务所合伙人、AIPPI中国分会数字经济委员会共同主席王红燕向记者指出，最新修订的《著作权法》第三条增加了第九项“符合作品特征的其他智力成果”，实际上也是给AI生成物是否可以被认定为《著作权法》意义下的作品留了窗口。

在生成式AI的法律规制方面，我国目前更多的是从宏观政策的角度加以支持与规范。例如2023年6月，国家网信办等三部门联合发布并实施的《互联网信息服务深度合成管理规定》，这是我国第一部专门规范AI生成内容的部门规章;2023年7月，国家网信办等七部门联合公布《生成式人工智能服务管理暂行办法》，规定了生成式AI服务提供者应当依法承担网络信息内容生产者责任，一定程度上给AI使用划定了“红线”。

“不可否认的是，前述法律规定仍然存在着效力层级不高、条款内容不够细化等问题，与发展一日千里的人工智能技术相比，亟待进一步完善。”王红燕说。

在国际层面，欧盟最新通过的《人工智能法案》(AI Act)围绕人工智能产品和服务的开发、市场投放及使用明确了一个统一监管框架，“但也存在着对AI系统的定义过于宽泛、未明确个人的权利和救济途径等问题。而美国白宫发布了几份关于AI 风险的指导性文件，但并没有为 AI 风险制定统一的联邦法规。”

由此可见，目前在全球范围内对于生成式AI的规制尚停留在公法领域下的监管性要求，而对于AI侵权问题等私法领域，依然没有得到有效的规范和界定。

AI技术暗藏风险，治理方案需要全球合作

目前，马千里所在的公司也在积极应对潜在的版权问题，比如他们结合区块链技术，对AI创作的图片、漫画与视频作品进行版权登记与保护。并且，“我们在用户协议里进行了完善，明确了用户的权利与义务，用户拥有相当大的权利，同时也要承担相应的责任。”

从整个产业和企业发展角度，马千里倒希望相关法律可以再等等，AI技术发展迅猛，很多应用尚不成熟，仍处于探索阶段，“等到它真的发展成熟，有许多社会价值被创造出来，再去考虑制定相关的法律法规可能会更合适。”尽管一些企业家认为目前AI技术并不会造成重大灾难性危害，但同时也表示，随着人工智能的快速发展，提前规划是有意义的。

中国“市民卡工程之父”、浙江大学智能教育研究中心特聘研究员张旭光向记者表示，“数字科技是一个生命体(AIoT技术生态)，生命体的最高层级是大脑，人工智能的发展是数字技术发展的必然趋势。我们要用现代数字科技“生命体”演进的发展眼光，在可预见的发展过程中超前部署。”

当前，浙江省人工智能发展水平处于全国前列，当科技浪潮翻涌之时，相关监管迫在眉睫。如何加强对AI技术和应用的监管?张旭光指出了两条路，一条是制定法律保障，另一条是技术制约。

张旭光说，在法律法规保障层面，要进一步持续完善人工智能等领域相关法律法规，但也要看到AI技术发展和应用与法律法规保障彼此是一个“道高一尺，魔高一丈”的对立统一过程，不是一蹴而就的;在技术保障层面，用相关技术防范或制约AI犯罪，比如AI生成的视频需带有“AI生成”的提示和水印字样;再如，有关权威部门或合法第三方平台用区块链等数字技术给生成的AI数字人颁发数字身份证等等。

“用技术制约技术，用魔法打败魔法”，这也是王红燕的心声，“人类的魔法应该是用更包容的创客精神来引领，最关键的一步，也就是人工智能相关项目的开放与开源势在必行。”

AI正在席卷而来，这场深刻的革命，将彻底改变我们这个时代和生活。在2023世界互联网大会乌镇峰会上，AI元素俯首皆是，AI安全也成为本届峰会的关注焦点。作为AI大国，一直以来，中国高度重视AI难以预知的风险挑战，积极履行国际责任，以“紧迫”的姿态，努力走在第一梯队。

上个月，习近平主席在第三届“一带一路”国际合作高峰论坛期间提出《全球人工智能治理倡议》(下称《倡议》)，全面探讨了AI发展、安全及治理三大方面，针对各方关注的AI发展与治理问题，提出了富有建设性的解决策略，此举也为国际间的讨论及规则制定提供了重要参考。

乌镇峰会开幕式上，习近平主席发表视频致辞时特别强调，要妥善应对科技发展带来的规则冲突、社会风险、伦理挑战。中方愿同各方携手落实《倡议》，促进人工智能安全发展。“人工智能技术风险是全球性的，全球性的课题离不开中国这一大国，表达中国决心也是全球治理非常重要的决心。”王红燕表示。

当今世界变乱交织，百年变局加速演进，人类社会走到了关键当口。面对难以预测的风险挑战，各国应当携手合作，构建起有效的治理机制，同时要明确边界，设置好必要的护栏。本月初，在英国召开的首届全球AI安全峰会上，中方立场尤其是《倡议》备受关注。作为主要倡导者之一，中国与美国、英国、欧盟在内的超过25个与会国家和地区签署了《布莱切利宣言》，一致同意通过国际合作，携手建立人工智能监管方法。

尽管没有提出具体解决方案，在法律约束方面也有所欠缺，但作为全球AI规范的首要宣言，《布莱切利宣言》所传达的未来导向、全球治理愿景以及对可持续发展的共识，是一种积极步伐。“《宣言》只是国际社会在AI监管合作方面的第一步，未来，AI技术将持续演化，面临新的挑战和机遇。我们期待看到更多国际合作，为AI的未来开创新的篇章。”王红燕说。

我们也期待，通过国际间的交流与合作，共同制定出一套明确且具有广泛共识的法律、伦理规范，确保AI技术合法、合理、合乎伦理地应用。同时，也需要各国政府、国际组织、科研机构以及行业组织贡献智慧，携手共进，推进AI全球治理，推动AI技术造福全人类。

来源 潮新闻