AIGC在网络视听内容生产中的哲学思考

作者：周昱瑾（安徽师范大学新闻与传播学院硕士研究生）；秦枫（安徽师范大学新闻与传播学院副院长、博士生导师）

来源：《青年记者》2024年第3期

导 读：

AIGC的兴起颠覆了人们对内容生产的想象，冲击着以网络视听为代表的内容创作行业，带来一系列风险挑战。‍

AIGC出现后，在短时间内的技术迭代演化能力冲击着全球各行各业对人工智能的认知，不仅多个国家宣布禁用ChatGPT，就连部分顶尖学术期刊也纷纷限制相关稿件投稿。AIGC对社会的影响已经超出了人类预估，人们在这种认知震荡下所采取的各类举措皆存在合理之处。但不得不承认的是，“AI研究或许正在越过某个‘奇点’，进入大规模应用阶段”[1]。理性看待AIGC所带来的行业风险并及时制定生产策略是当下各个领域的紧迫任务。

AIGC应用于网络视听内容生产的风险挑战

从技术哲学的视角看，科学技术是人类征服和控制自然的有力工具，但日渐由人类的工具变成控制和压抑人类的异己力量。

（一）技术逻辑对艺术逻辑的冲击。首先，传统的艺术创作过程中，创作者以自身的创作意图、审美标准和艺术价值观为基础进行创作，注重情感表达、思想传递和观众共鸣。然而，AIGC的介入使得技术逻辑开始主导创作，这可能导致原有的艺术逻辑被忽视或扭曲。AIGC擅长运用大数据和机器学习等技术分析用户行为和反馈数据，以预测、满足观众需求，创作更受欢迎和更易获得流量的作品。这种以数据为导向的创作方式可能会削弱创作者的创造力和自主性，使得产出的作品被打上商业属性的烙印，也让技术被赋予浓厚的生产效益、经济效用的价值旨归，逐渐远离其始源价值[2]。

其次，喻国明教授提出，“AIGC弥合了数字文明社会的‘能力沟’”[3]，本文认为，正是由于AIGC缩小了创作者之间的能力差距，才让越来越多的人沦为技术的附庸，忽略了对自身专业能力的提升。长此以往，人类可能会养成依赖知识的习惯，失去知识背后的智慧，导致技术与人类的社会角色发生位置上的紊乱。如德国哲学家海德格尔所言，技术是现代社会的“座驾”，当“座驾”处于支配地位时，会让人无法认识到自身存在的价值，成为其持存之物，威胁“人的自由”[4]。在这种状态下，即使人类在技术赋能下释放了生产力，产出海量的视听作品，也会由于技术本身缺乏创新的基因，使得视听内容的创新性无法实现，人们获得的信息越多，意义越少，影响了公共讨论的质量。

此外，AIGC虽然能模仿人类的创作风格，不断提升语言的逻辑性和流畅性，但由于缺乏意识和情感，在表达的艺术化和情绪化层面明显不足，而与用户形成情感上的连接和共鸣是视听作品不可或缺的，因此无论技术如何拓展作品的思维张力，也无法弥补其在反映生活体悟和体现自由意志方面的缺陷[5]。若视听内容创作者不能平衡生产中的技术逻辑与艺术逻辑，最终可能会导致艺术作品中“灵韵”的枯萎，人类独特的审美价值逐渐被淹没。

（二）语义理解偏差与观点的不可控偏向。AIGC应用于网络视听内容生产时，语义理解偏差与不可控偏向构成了重要的风险因素。一方面，语义理解偏差源于AIGC对符号和文化的有限把握。由于AIGC依赖于海量的训练数据集，其对于语义的理解能力与数据的质量息息相关。然而，全球范围内的数据是异常复杂且多样化的，不同语言符号具有深层次的隐含意义、文化背景和情感色彩。文化研究领域的英国学者斯图亚特·霍尔曾强调了符号和意义的构建过程，认为意义是由特定的符号系统和文化背景塑造而成。AI背后的训练数据集很难囊括符号意义的所有可能性，导致其在理解某些复杂性语义时可能存在偏差，生成与原意或预期相去甚远的内容，抑或输出大量并非确凿的衍生数据误导观众的认知，成为“谣言制造者”。

另一方面，AIGC的结构性问题会带来观点的不可控偏向。目前，以GPT为代表的AI工具运用的训练数据集大多来源于网络中未经整理的数据，已有多项研究证实这些数据可能捕捉和放大刻板印象、种族歧视，包括具有性别或国籍倾向的图像和文本。[6]这些极具社会危害性的内容可能会被AIGC无差别地学习并运用，致使其无意识地生成带有价值倾向性或思维偏见的内容。而且，AIGC的生成逻辑和决策过程往往具有不透明性和不可解释性，这也使得我们难以预测和控制其生成的内容，尤其是在涉及敏感的政治或性别话题时，这种不可控性大大增加了网络视听内容生产的风险。

（三）高度拟真情境扰乱社会秩序。作为高效率的生产工具，AIGC通过与3D、AR、VR、MR等技术的融合深度赋能虚拟仿真内容，这给影视制作、虚拟偶像打造、数字孪生实现等多个领域带来了更多可能性，却也给社会公共秩序的维持带来了前所未有的挑战。

第一，AIGC创造出的“超真实”情境可能让拟像和真实之间的界限消失。当下，AIGC技术不仅仅实现了影像对现实社会的映射，更实现了对现实中不存在事物的创造，用陌生化的元素合成多元的奇观景象，助推人们的想象与创意成为“现实”。这类高度拟真的情境虽不是真实存在的，却能够在一定程度上揭露人们的精神世界，因此人们在体验时容易混淆拟像与真实的边界，又或是出于情感上的信任将它视为真实，进而影响人们在真实世界中的行为举止。在鲍德里亚看来，这是一个被“符码”技术控制的时代，在这之中，人们模糊真实与非真实，非真实超越真实，最终“超真实”让人们对于真实的体验不复存在，所有互动“内爆”于一个平面，颠覆真实社会的意义和价值[7]。

第二，AI换脸、虚拟人物和合成音效等技术的滥用可能让视听作品成为犯罪团伙的帮凶。AIGC在经过大模型训练、人工反馈训练和用户使用中的社会训练之后，逐步锻炼了文字推理能力，并可以对交互内容产生记忆，实现连贯性对话。这项能力嵌入虚拟人物之中，大大增加了网络虚拟互动的可信任感，让很多网络骗局有了可乘之机。比如包头市警方披露的一则诈骗案例，案例中的骗子通过AI换脸和拟声技术，佯装好友对当事人实施了诈骗，导致当事人10分钟内被骗430万元[8]。除此以外，虚拟人物高度拟真的外貌、语言和行为方式还容易引发用户对其产生情感投入和情感依赖，使用户在虚拟情境中花费过多的时间和精力，导致现实世界中的人际疏离和社交隔离等一系列问题，从而扰乱现实社交关系。

（四）素材版权及作品所有权归属争议。基于海量的网络数据集，AIGC可以调用、重组和生成大量的文本、图像、音频和视频素材，用于创作网络视听内容。然而，当前国内外对于AIGC获取与利用这些数据进行算法训练是否合法存在诸多争议，尚未达成立法或司法层面的共识，背后的侵权问题备受关注。同时，这种生产方式下作品的所有权归属也超出了现有法律的适用范围，引起社会的广泛讨论。

AIGC生成的内容往往是通过学习和模仿现有作品所获得，因此它生成的内容可能会出现与原素材风格过于相似的风险，从而引发版权纠纷。虽然有观点认为，经过数以亿计数据量的学习，AIGC出现侵权的概率很小，但最新的实验数据明确指出，“利用Stable Diffusion模型生成的内容与数据集作品相似度超过50%的可能性达到了1.88%”[9]。鉴于庞大的用户使用量，素材侵权问题不容小觑。况且目前全球已出现了多例起诉AIGC侵权案例，《华尔街日报》也公开指责OpenAI公司未经授权使用大量主流媒体文章进行训练，所以未来如何合理训练和使用AIGC是一个值得思考的问题。

与此同时，AIGC生成内容的创作过程离不开算法设计者、数据提供者和内容创作者的共同努力，涉及多个参与方之间的权益分配问题，容易引发作品所有权的归属问题，即谁应被视为生成内容的法定作者以及谁有权对生成的内容进行修改、分发或商业利用。传统的创作和版权归属概念无法完全适用于AIGC这一新兴技术，不同的国家也有分歧较大的观点侧重，如澳大利亚倾向于将计算机生成的作品视为无作者（authorless），而英国的《版权，设计和专利法》（CDPA）则规定，对于计算机生成的文学、戏剧、音乐或艺术作品，作者应为对创作该作品做出必要安排的人，这使得作品所有权的界定变得更加复杂和模糊，需要进一步讨论。

多维布局：推动AIGC高质量应用于网络视听内容生产

要克服现代技术对网络视听行业的冲击，既需要战略上的前瞻布局，也需要技术上的有力攻防，更离不开人才自我价值的实现。

（一）数艺化发展：推进教育体系的建设改革。在海德格尔的思想中，“艺术是唯一一种可以多样化的解蔽方式”，追求艺术之途便是追求真理之径，也是人类面对“座驾”支配局面的“救渡”之道[10]。AIGC技术改变了视听领域的业务流程、生产格局，重塑了行业的组织能力，革新了岗位的技能需求这股强大的技术冲击力，让行业及整个社会深刻认识到数艺化发展的紧迫性。学者孙若风认为，数艺化与数智化是数字化演进中的两个分支，数艺化是数字化和艺术化的融合，也是强调审美价值回归的数字化发展3.0阶段[11]。所以，为了进一步推动网络视听传播形态智能化和艺术表达创新化，国家应加强推进社会的数字化教育以及艺术教育，推动传统教育体系变革，由浅至深地培养学生使用各种数字技术的能力，把“数字技术教育”设为初高等教育的必修课，并进一步将艺术教育的软性考核标准转为硬性标准，设立独立的艺术核心课程以提高艺术教育在学生素质教育中的地位，改变长期以来社会上对教育形成的刻板认知。更深层地，我国应该结合当前国情，发展一种以马克思主义全面发展学说为基础的艺术审美教育理论，并通过座谈活动、媒体传播、社区宣讲等途径来普及这套理论观念，在社会上营造良好的艺术学习氛围，释放未来人才的艺术想象力。

（二）技术自主性：保证技术创新的源头供给。面对全球技术竞争，要打造中国的核心竞争力务必从底层把握和提升核心技术，加强对主流模型的基础研究，保证技术创新的源头供给，针对技术应用中语义理解偏差等缺陷不断更新解决方案。一是持续收集、整合高质量、高可信度的AI训练数据，加大蕴含中国文化的数据供给，开发具有本国特色底蕴的人工智能生成工具。二是组成专业、全面的AI训练团队，在训练时加强人工反馈训练，及时审查AI学习效果，及时纠偏，确保AI处于主流价值观的引导之下，避免偏见。三是开发相应的AI内容把关模型，辅助生成式AI的安全运行，以实现AIGC的可控性，尽可能减少虚假信息和误导性内容的生成。四是注重对AIGC工具的日常维护和定期升级，保证AI的学习数据与社会文化发展步调一致，加强生成内容的时效性和适用性。只有不断将中华传统文化融入AIGC底层技术，才能让自动生成的网络视听作品呈现中国美学精神、彰显中国价值底蕴。

（三）上位法建设：厘清AIGC作品法律边界。近年来，网络视听新媒体正成为潜力巨大的新兴版权产业，版权保护问题始终是社会关注的重心。从内容生产的角度，网络视听带来了很多版权界限上的模糊，也给国家立法部门带来了巨大的挑战。2021年，面对短视频等新媒介复杂化、新型化的侵权问题，新著作权法正式实施并引入了视听作品的概念，弥补了部分司法实践中的法律空白。面对AIGC的又一轮冲击，国家立法部门也应该加快出台相应的法律政策，就AIGC训练使用的素材版权，以及生成作品的所有权做出明确的规定，包括作品侵权后的责任主体认定等也需要廓清。例如可以在著作权法中新增“AIGC作品”的概念，或者出台其他单独的法案，为此类作品的监管提供上位法准据[12]。目前，我国网信办等七部委已联合发布了《生成式人工智能服务管理暂行办法》，这是我国针对AIGC制定的首个规范性政策，其中提到的“包容审慎和分类分级监管”体现了国家对AIGC的鼓励态度，因此行业监管部门应当首先依照该政策及时制定相应的监管措施，以保证新技术在视听领域的安全运用，比如加强内容的标识审核，增加安全评估流程等等，做到释放技术活力却又不阻碍技术的发展。但由于该文件属于部门规章级别，所以为进一步保证监管的范围和效力，相关上位法的完善和建设还应持续推进。

（四）影视工业化：搭建业界与学界沟通桥梁。20世纪80年代，邵牧君就曾提出过“电影工业论”，认为中国的影视不能一直依靠人口红利或荧幕红利，而应形成一种可操作、可持续、可规范化运作的工业。随着AIGC介入视听行业，这个观点再次被业内关注，并逐渐形成共识。清华大学教授尹鸿表示，这应该是一个分工细化、明确，能够有效地配置资源的视听生产和传播系统，而且强调了工业化也不意味着艺术价值的消失。为了推动这一进程，业界必须进一步细化分工、垂直化管理，这也意味着每一个岗位上的人才需要具备更加精湛、专业的业务能力。但现实是，当下学界的教育一般更注重全面能力的培养，导致学生工作后仍要经过特定的技能培训才能加入内容生产。学界人才培养体系相对于行业发展的滞后性使得影视工业化进程难以推进，所以业界与学界应该加强交流，深度融合。业界需要加快制定一套工业化的行业标准，而后学界根据标准调整教学体系，注重培养学生的实践思维，达到为视听行业输送产业级别人才的目标。此外，国家需从宏观层面关注社会发展形势，分析技术升级之下劳动力的技能需求变化，及时发布相关报告。业界可以根据这些报告调整业务布局，制定内部的技能重塑规划，通过有效的再技能化来管理人力资本，优化内容生产和工业化布局，实现内容向精品化和分众化的跃迁，促进网络视听高质量发展。

结 语

美国技术哲学家唐·伊德认为，在人与技术的互动关系中，技术具有独立性的一面，可表现为“非人行动者”，与人类合力于网络视听内容生产，并推动其趋向强智能，从而实现偏好式选题、智能化创作、跨模态生成和高精准传播等生产方式上的变革和升级。AIGC应用于网络视听内容生产领域，要发挥多主体的能动作用，汇聚生产系统中的不同力量，立足于人机共生的关系基础，从数艺化发展、技术自主性、上位法建设、影视工业化等层面定点发力，协同实现影视工业化的长远目标。

【本文为国家社科基金艺术学项目“移动短视频内容生产与传播的价值引导研究”（批准号：20BH152）阶段性成果】

参考文献：

[1]陆小华.AIGC与智能变革：让认知震荡催生能力生长[J].青年记者，2023(07):88-90.

[2]吴飞.媒介技术演进脉络的哲学考察[J].新闻记者，2018(12):30-44.

[3]喻国明，苏健威.生成式人工智能浪潮下的传播革命与媒介生态——从ChatGPT到全面智能化时代的未来[J].新疆师范大学学报(哲学社会科学版)，2023(05):81-90.

[4]葛玉海，曹志平.生产力与座架:马克思与海德格尔在技术决定论上的异同[J].自然辩证法研究，2015(04):31-36.

[5]陈洪娟.人工智能绘画对艺术意蕴的消减[J].美术，2020(07):144-145.

[6]马文,陈云松.文化主体性与生成式人工智能的价值导向干预[J/OL].江苏社会科学，1-9[2024-02-04]
.https://doi.org/10.13858/j.cnki.cn32-1312/c.20240201.003.

[7]张蓝姗，唐慧婷.AIGC：媒介内容创作的新变革[J].中国电视，2023(05):94-100.

[8]警惕！“AI诈骗正在全国爆发”[EB/OL].(2023-05-23)
.https://baijiahao.baidu.com/s?id=1766643760607649414&wfr=spider&for=pc.

[9]朱开鑫，张艺群.“你的AI侵犯了我的版权”：浅谈AIGC背后的版权保护问题[EB/OL].(2023-03-01).https://www.tisi.org/?p=25255.

[10]杨殿锋.海德格尔技术哲学思想的价值旨归[J].社科纵横，2022(03):39-44.

[11]孙若风.元宇宙三级跳：数字化、数智化、数艺化[J].人文天下，2023(01):11-14.

[12]杨吉.我国著作权登记制的问题——兼评新《著作权法》第十二条[J].出版参考，2021(03):10-13+9.

本文引用格式参考：

周昱瑾,秦枫.AIGC应用于网络视听内容生产的思考——基于技术哲学视角[J].青年记者,2024(03):87-90.