当AI涉足色情产业：未成年换脸围观的背后隐患

17岁的Uldouz Wallace不敢相信自己的眼睛，因为她在facebook上看到了自己的不雅视频。而她并没有跟任何人发生过性关系。

慌乱之中，她把自己的形象上传到网站检索，发现了2000多个相关链接。每个地址都是不堪入眼的露骨视频。

报警后，她才知道，自己在instagram上发布的图片被犯罪分子窃取了。罪犯拿着她的脸用AI合成了成人视频，卖给了黄色网站。

而这些视频已经被观看了上百万次。

至于犯罪分子，因为难以溯源最初的发布平台和IP，很难被逮捕。

Wallace并非个例。

自生成式AI在2022年兴起之后，毫无编码能力的普通人也可以通过开源模型合成图像和视频，情色产业也发现了其中的利益。

据悉，2023 年，美国社交平台上新发布了14.3万个深度伪造合成的视频，是2022年1.5万个的九倍。

当技术不断精进，地下产业愈发猖獗，AI换脸的受害者也就愈来愈多。针对这个现象，世界范围内开始出台相关的法律法规。但由于尚在摸索阶段，实际惩治力度并不强硬。

被害者迫于羞耻与伦理考量，大部分也不会选择正面应战。

那些被害的女性，或许成了AI走进互联网后的第一批受害者。

学生主犯

把22万未成年送上色情网站

AI换脸始于deepfake（深度伪造）。

深度伪造是AI换脸的核心技术，其原理是通过深度神经网络提取输入图像的深层信息，读取出其中隐含的深层特征来实现人脸互换（Face-swap）等特定任务。

自2017年名为deepfake的用户在Git Hub上开源此技术代码，多个衍生代码也相继开源。此后，AI换脸进入大规模传播时代。

韩国AI换脸犯罪事件始于2024年5月，主谋是两个首尔大学的学生。利用开源的AI技术Deepfake，换脸合成了成人视频，在社交平台私密传播，受害女性多达61人。韩国妇女人权研究所表示，2024年以来共有781名AI换脸受害者在线求助，其中36.9%是未成年人。

但真正引起公众注意的，是被非法换脸的22万未成年。

9月份，一大批未成年少女的影像出现在韩国某大型色情网站上。警方调查后，发现受害者90%为学生，受害者人数多达22万。

受害者来自五百多个学校。不仅有大学生，犯罪分子连高中、初中、乃至小学的女孩也不放过。而始作俑者也不是掌握高科技的成年黑客，大多都是十七八岁的学生。

他们在社交网站上批量收集未成年的影像，利用深度伪造技术合成视频，在匿名社区、暗网疯狂流传。

韩联社报道，涉嫌AI换脸立案的嫌疑人中，10～19岁占比2021年为65.4%，2022年略降至61.2%，去年反弹至75.8%，2024年1至7月为73.6%。深度伪造犯罪呈现低龄化特征，未成年人沦为AI换脸的始作俑者。

而同样的，未成年人也成为AI换脸的主要受害者。

2021年至2023年，在报案的527名深度伪造淫秽影像受害者中，未成年人占比达59.8%，远高于20～29岁（32.1%）、30～39岁（5.3%）和40～49岁（1.1%）。

而这样违背伦理法律的犯罪活动背后，除了技术和色欲本身，还有暴利。

成本趋近于零

5美元就可批量下载

“当利润达到10%的时候，他们将蠢蠢欲动；当利润达到50%的时候，他们将铤而走险；当利润达到100%的时候，他们敢于践踏人间的一切法律；当利润达到300%的时候，他们敢于冒着绞刑的危险。”——《资本论》

在专门制作换脸视频的Mr.deepfakes网站，用户付费5美元就可以下载上百份的换脸色情图像。支付15美元就可以在一个月内免费访问该网站上的所有图像视频。

这类网站盈利的基础就是大量的付费用户。据Similar web数据显示， Mr.deepfakes一个月的用户访问量多达700万。

同时，NBC新闻对 MrDeepFakes的调查发现，至少有18名网站创作者正在推广指向 Fan-Topia 页面的“隐藏链接”，并出售更长版本的深伪色情内容。每天，他们使用“隐藏链接”的创作者在网站上传预告片并引导消费。

该网站的深度伪造主要是女性公众人物。K-Pop 明星、好莱坞女演员甚至政治人物都深受其害，包括美国著名歌星taylor swift和特朗普女儿伊万卡。

随着生成式AI的不断进化，通过开源模型，深度换脸成本趋近于零，只需要通过爬虫软件批量获取社交平台上的女性照片，就可以获得大量“免费”的女性素材。

据美联社报道，2023 年，网上新发布了超过 14.3 万个深度伪造合成的视频。而在2022年，这一数值还是1.5万。在生成式AI火爆的一年内，社交平台上的AI换脸视频增加了将近八倍。

而在不断开源、传播的技术模型之中，社交平台上出现了大量的UGC色情内容。

Sensity咨询公司2023年调查显示，社交媒体上96%的深度伪造视频都是露骨的性爱视频。每一个视频的平均浏览量在1亿，视频中的女性并不知情。

甚至有匿名网友在Discord上称，只需要65美元就可以为Instagram上关注者少于200万美元的博主深度换脸，合成你想要的任何视频。

在深度伪造社区，每个人都会有自己的主页，你可以上传自己的模型、代码，生成的视频，也可以为喜欢的博主打赏。

社区成员甚至会积极讨论如何写代码、优化模型生成更“逼真”的图片视频。

主题包括“defeating deepfake detection（如何绕过对deepfake的监管）”“ways to improve deepfake（如何提升深伪技术）”“crypto payment（加密货币支付）”。

流传着大量换脸色情影像的深伪社区，俨然成了犯罪分子的秘密基地。

技术的弥散与不设限将犯罪成本降到最低，在高额利益和原始劣根性的驱动下，越来越多的女性沦为AI换脸受害者，越来越多的犯罪分子加入这场结构性的“围观”与侵犯之中。

作为七宗罪之一，色欲之下，人人都是围观者。

低成本犯罪，屡禁不止

但丁在《神曲》中列出七宗罪，依次为：色欲、贪婪、嫉妒、暴食、懒惰、暴怒、傲慢。

用AI换脸，是出于牟利，亦是出于人性中被淫欲唤醒的天然的劣根性。

14岁的小女孩Mia Janin结束了自己的生命，因为同班男孩用AI生成了她的裸照并在学校群组和社区传播。

这个群组叫suicide squad,名为自杀小队，有六十多个男生，多在十三四岁。而针对小女孩的换脸纯粹是出于欺凌的快感。

事情发生于2021年3月，过了三年才在今年年初被新闻媒体曝光。

但直到现在，社交媒体上都没有任何关于犯罪者的审判记录和信息。

一个小女孩的身亡被新闻媒体一句“bullying”（霸凌）轻轻带过。

面对层出不穷的AI换脸事件，美国国会2023年发起了一项名为“the Disrupt Explicit Forged Images and Non-Consensual Edits Act of 2024”（反对强行篡改图像和未经同意编辑的法案）的法案。

数据显示，参与投票的1231名成年人中，72%的女性强烈支持该法案，男性支持的比例为62%。其中，有20%在45岁以下的年轻男性公开反对这项法案，认为不应该因为编辑AI换脸的视频而起诉内容创作者。

由下图可以看出，每个年龄阶段都有该法案的反对者，年轻男性的反对声音尤为突出。

不过，从年初著名歌手Taylor Swift换脸视频在社交媒体疯传到韩国未成年批量受害以及层出不穷的AI换脸事件，世界范围内开始了对深度伪造的大力整治。

其中最重要的一个要素是知情权，即照片合成的主体是否事先同意图像的生成与流传。

美国是最早提出对深度伪造技术进行立法的国家，与深度伪造技术直接相关法案最多，而且从联邦和各州政府层面均有部署行动。2018年12月，美国参议院提出《2018年恶意伪造禁令法案》（Malicious Deep Fake Prohibition Act of 2018），对制作深度伪造内容犯罪和侵权行为的个人，以及明知内容为深度伪造还继续分发的社交媒体平台，进行罚款和长达两年的监禁。如果伪造内容煽动暴力、扰乱政府或选举，并造成严重后果，监禁将长达10年。

但从中国裁判文书网以“AI换脸”检索，我们发现，在现存的18篇相关裁判文书，最早的判决案例在2022年，大部分都以赔礼道歉结束，实际赔偿金额大多在3000到5000，惩处力度较小。

从某种程度上说，“AI换脸”产业的猖獗一定程度上就是因为没有严厉的惩戒措施，低成本犯罪给了更多游离在法律边缘的人侥幸心理。

但AI换脸的本质解不在于AI，而在于人。

因为技术是中性的，善恶只是使用技术的人所带来的后果。就像AI可以被用于提高蛋白质检测效率、优化工作流程、解放人的生产力。同时，AI也会被犯罪分子用于诈骗、军事和色情网站，成为黑灰产的养料。

随着技术不断发展，人类所做的，除了享受技术的红利，更应该时刻警惕技术可能带来的风险，尤其是针对儿童、妇女、老人等弱势群体。

对抗AI换脸之路，任重而道远。

切记，不要在前进的道路上误开潘多拉的魔盒，坠入无间之狱。