ChatGPT爆火背后的法律风险解析

发表时间: 2023-02-13 10:19

韩丹东王意天/法治日报

最近，由美国人工智能研究室OpenAI开发的全新“聊天机器人”ChatGPT火了。作为一款人工智能语言模型，它不仅能和人展开互动，还可以写文章、制定方案、创作诗歌，甚至编写代码、检查漏洞样样精通，上线仅两个月全球活跃用户破亿。

对此，有人直呼“太好用了，你要什么它就给什么”，也有人担忧“一些工作将被它取代”。

ChatGPT的问世掀起了新一轮人工智能浪潮，但其使用过程中可能涉及的法律问题不容忽视，记者对此进行了调查采访。

ChatGPT火了，在国内连续多日冲上热搜榜，一时与ChatGPT相关的各种信息遍布网络。

ChatGPT全称“Chat Generative Pre-trained Transformer”，按照其自我介绍，它是一个由OpenAI训练的大型语言模型，被设计用来回答各种问题并为人们提供帮助。

人工智能、人机交互、自动问答……与ChatGPT相关联的各种“高大上”的形容词让不少人感到好奇：ChatGPT到底能干什么？是否真的像一些人担忧的那样，可以取代文本创作等类型的工作？

《法治日报》记者近日采访发现，ChatGPT的火爆背后暗藏法律风险隐患。人工智能在给人们的生活增添乐趣、提供便利的同时，其信息真伪、知识产权等法律风险也愈发受到关注。另一方面，不少人盯上了其热度想“搭便车”牟利，出现了大批“山寨”产品和账号转卖行为。

存在信息泄露风险
可能侵犯知识产权

ChatGPT爆火后，很多博主拍摄了测评视频。不少人给出评价称，面对一些提问，ChatGPT反应速度、准确性较高，表现甚至优于一些搜索引擎。但ChatGPT的回答通常是笼统的、整合性的回答，而不是具有个性色彩的、创新性的回答。

公开资料显示，ChatGPT可以总结研究论文、回答问题、生成可用的计算机代码，甚至快速通过美国医学执照考试、沃顿商学院的MBA期末考试、司法考试。一些医学论文预印本和已发表的文章甚至正式赋予了ChatGPT作者身份。

但在受访的法律人士看来，ChatGPT的强大功能也隐含着不少法律风险。

“ChatGPT对信息、数据来源无法进行事实核查，可能存在个人数据与商业秘密泄露和提供虚假信息两大隐患。”北京盈科（上海）律师事务所互联网法律事务部主任谢连杰说。

谢连杰分析说，ChatGPT依托海量数据库信息存在，其中包括大量的互联网用户自行输入的信息，因此当用户输入个人数据或商业秘密等信息时，ChatGPT可能将其纳入自身的语料库而产生泄露的风险。虽然ChatGPT承诺删除所有个人身份信息，但未说明删除方式，在其不能对信息与数据来源进行事实核查的情况下，这类信息仍然具有泄露风险。

其次，人工智能生成的信息并不总是准确的，ChatGPT常常出现“一本正经地胡说八道”的情况，需要一定的专业知识才能辨别真伪；也可能有不法分子恶意“训练”人工智能，使其提供诈骗信息、钓鱼网站等内容，损害公民人身财产安全。

“对于这类隐患，平台应充分提示用户其生成的内容可能为虚假信息，且在其生成疑似违法信息时进行拦截或提示用户存在安全风险。”谢连杰说。

泰和泰（重庆）律师事务所高级合伙人朱杰说，ChatGPT在建立语料库、生成文本时，如果使用并非公开的开源代码、使用开源代码商用未办理许可证或者未按照许可证的要求实施的，可能会导致侵权。

他解释说，这类人工智能主要是通过挖掘人类日常交流以及文本，进而统计分析，因此，对于一些受著作权保护的文本、视频、代码等，如果没有经过权利主体的授权，直接获取复制到自己的数据库中，并在此基础上修改、拼凑，极可能侵害他人的著作权。

2019年，国际保护知识产权协会（AIPPI）发布《人工智能生成物的版权问题决议》，认为人工智能生成物在其生成过程中有人类干预，且该生成物符合受保护作品应满足的其他条件情况下，能够获得保护，对于生成过程无人类干预的人工智能生成物无法获得版权保护。

近日，多家国内学术刊物针对ChatGPT发声。《暨南学报（哲学社会科学版）》发布关于使用人工智能写作工具的说明提到，暂不接受任何大型语言模型工具（例如：ChatGPT）单独或联合署名的文章。在论文创作中使用过相关工具，需单独提出，并在文章中详细解释如何使用以及论证作者自身的创作性。如有隐瞒使用情况，将对文章直接退稿或撤稿处理。《天津师范大学学报（基础教育版）》发布声明，建议作者在参考文献、致谢等文字中对使用人工智能写作工具（如：ChatGPT等）的情况予以说明。

朱杰认为，ChatGPT生成的文本等内容是基于大量数据的统计和应用生成的，不具有自己的思想和创新，很难构成著作权法保护的作品。

谢连杰提到，ChatGPT的文本数据挖掘技术可能导致其在他人享有著作权的作品中“借鉴”部分内容。对于这部分内容，若不能构成我国著作权法所规定的“合理使用”的情形，则可能引发侵权纠纷。

借势贩卖租赁账号
“搭便车”山寨频出

ChatGPT走红后，由于服务端对中国大陆的IP有限制，无法注册使用，其账号一时在国内多个网购平台、社交平台上销售火热。在某电商平台上售卖成品账号的店铺，一天之内多达万人付款，价格最低1.68元。

记者在一家名为“ChatGPT账号供应商”的店铺购买了账号，商家随后私聊发来账号和密码，并特别标注输入时需要复制粘贴，还附有登录教程。登录后，记者发现这是一个多人共享账号，左侧聊天栏已经存在许多聊天窗口，系统运行十分缓慢，不一会记者就被提醒不能多人同时提问。

记者发现，某电商平台上，多数商家售卖的都是共享账号，而单人定制账号或者代注册账号的价格往往更高。

近日，多个电商平台对ChatGPT账号销售行为进行了查禁，相关关键词被屏蔽。记者先前账号订单显示商品不存在，进入到商家界面发现，所有的商品均已下架。

然而，记者在社交平台上搜索“ChatGPT账号”等关键词发现，仍有不少网友在提供代注册、有偿账号分享服务，围绕ChatGPT账号展开的买卖行为仍在野蛮生长。

朱杰认为，这种买卖行为可能构成非法经营等违法行为。ChatGPT的正版服务由境外机构提供，而未经我国相关部门批准利用VPN跨境提供经营活动是被明确禁止的，所以国内这些代问、代注册的商家以营利为目的，搭建或使用VPN进行注册账号，未办理国家相关行政许可，擅自经营买卖国外账号，可能会受到行政处罚甚至刑事处罚。

ChatGPT账号价值被炒作成商品以外，借其名称热度“搭便车”的牟利行为也大量出现。近日，记者查询发现，以“ChatGPT”“智能问答”等字眼作名称的小程序、公众号数量激增，不少小程序都显示有“1000+人最近使用”。

记者使用其中一些小程序后发现，这些产品不仅和ChatGPT毫无关系，而且大多以免费试用为噱头，吸引用户注册使用后，再推出收费服务，最终目的是诱人充值以牟利。例如，一个名为“××超级AI”的公众号中提到，可以为用户提供ChatGPT中文版的服务，小程序界面有不同的服务类型，从“AI情感问题”到“AI程序助手”，用户可以选择与不同的AI聊天。

可当记者点击进入“AI情感问题”一栏，还未进行任何操作，对话框就显示记者“已经用完今天的免费次数”，后续体验需要购买VIP，分别为19.9元的一天会员、199元的月度会员与999元的年度会员。

朱杰说，“山寨”软件打着正版软件的旗号进行宣传，欺骗消费者进行下载，可能构成虚假广告；同时，“山寨”软件使用的名称及标志如与正版软件相同或相似，引导他人误认为与正版存在特定联系，可能构成反不正当竞争法中规定的商业混淆行为，将受到行政处罚。

法律规范必不可少
部门监管精细治理

ChatGPT浪潮澎湃，其背后暴露出的人工智能法律风险、围绕ChatGPT展开的无序商业行为亦汹涌来袭，如何应对成为关注焦点。

上海政法学院人工智能法学院副教授郭金兰告诉记者，我国算法行业在此前的标准制定时已经初步尝试了以场景和架构为基准的思路。

2018年7月，中国科学院软件研究所联合15家产学研单位共同编制首个国内人工智能深度学习算法标准《人工智能深度学习算法评估规范》。这一规范基于深度学习算法可靠性的内部和外部影响，结合实际应用场景，确定了由7个一级指标和20个二级指标组成的算法可靠性评估指标体系，做了场景化和精细化算法治理实践的有益尝试。

2022年出台的《互联网信息服务算法推荐管理规定》中明确要求，人工智能的算法应当坚持社会主义主流价值观，不能利用算法危害国家安全和社会公共利益、扰乱经济秩序和社会秩序、侵犯他人合法权益。今年1月10日起施行的《互联网信息服务深度合成管理规定》中明确，任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息，不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。

随着人工智能产品不断迭代升级，未来对相关产品该如何进行监管与应对？

郭金兰认为，对人工智能监管，需要深入人工智能系统的整个生命周期，从模型的建立、语料库的标注、模型训练、投放市场后的迭代进化直到系统退出使用。监管需要关注到每个具体的环节，包括语料库的筛选标准制定、参与人工标注的人员培训，开发者的价值观考察等。

“对ChatGPT这类生成式人工智能的监管必须将算法监管和数据监管结合起来。在算法监管机制的未来探索中，应充分考虑算法决策的主体类型和作用类别，探索场景化和精细化的算法治理机制。”郭金兰建议说。

朱杰建议，国家应当加强对人工智能的伦理规制，将伦理道德纳入人工智能研发和应用的全过程，增强全社会人工智能的伦理意识和行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展。

本期资深编辑邢潭

ChatGPT爆火背后的法律风险解析

热门阅读

推荐阅读