探索AIGC时代：儿童发展的新机遇与挑战

编者按 日前，2024上海市为民办实事项目“打造100个儿童友好城市阅读新空间”的首批20个新空间出炉。儿童友好城市建设是人民城市重要理念的生动实践，是高质量发展的重要标识，也是高品质生活的应有之义。文汇报特编发两篇文章，希望对推进儿童友好城市建设有所启发。

上海少年儿童图书馆（长风馆） 记者 叶辰亮摄

■ 包蕾萍

AIGC时代，人们开始重新思考儿童发展问题。要继续推动童年革命向积极方向发展，就必须坚持国际公约所强调的“儿童利益最大化”原则，一方面加强制度建设，将儿童保护落到实处，另一方面也要突出伦理治理，通过树立AI领域正确的伦理价值原则，实现对AI技术应用进行正确的价值引导与伦理规制，让“儿童权利保护”“网络安全使用”“可持续发展”和“以儿童为中心”的理念深入人心，积极倡导有利于儿童发展的参与，孩子们的童年才会更加丰富生动。

新兴技术革命背景下，AIGC、云计算、大数据等智能科技对儿童教育、健康、娱乐、保护各个领域的影响愈发深刻。2024年5月14日，OpenAI春季发布会推出GPT-4o，再次艳惊四座，这一“全能”模型不仅能接受文本、音频、图像的任意组合输出，还能够识别人类的感情，根据感情作出“有情绪的反应”，在全球迅速掀起新一波数字化革命狂潮，也引发各界对其可能产生的替代性影响的持续热烈讨论。

振翅的蝴蝶：数字化浪潮推动的童年革命

现代意义的童年概念大约在16－17世纪出现。经历工业革命和启蒙主义的洗礼后，随着社会发展对知识需求的不断提升，儿童也逐渐摆脱了人类文明早期被压榨和奴役的形象，童年开始被视为是一种具有社会结构和心理条件规定性的概念。从卢梭笔下的“儿童本位”、瑞士教育家裴斯泰洛齐的“自然教育”，直到福·贝尔、蒙台梭利倡导的“早期教育”，哲学家和教育学家都坚定认为，儿童不再是缩小版的成人，或是成年社会集体意识和集体无意识的一部分，而是具有自身特点和规律的发展阶段和特定群体；成人社会花时间投资和养育心智健康的儿童，不仅反映了成人社会的良好品性，也是对社会未来前途的最好保障。进入近现代社会以后，狭隘的“成人优越论”进一步遭到摒弃，一系列“以儿童为中心”的现代理念得以树立：1989年11月，联合国大会通过了《儿童权利公约》，为儿童权利保护订立了一套全面的国际法律准则，表明了人类决心“将最宝贵的东西给予儿童”，并建立机制加以实施。关于儿童、儿童发展和儿童教育，在20世纪的后半期逐渐成为一个凝聚全球化共识的议题，承载了人类对自身的重新审视、共同理解与积极探索，形成了一系列具有社会文化规范性的新制度和新范式。

如果说工业革命赋予童年最大的变革，就是“以儿童为中心”的现代理念，那么如何看待数字化浪潮为童年带来的新变革呢？AIGC时代，人们开始重新思考儿童发展问题。事实上，对这一问题，理论界有两种截然不同的观点。一种认为，年轻世代本身就是数字原住民，在新技术需求的基础上，紧随时代变革的步伐，张开双臂热烈拥抱AIGC这样的人工智能新技术，全面提升儿童数字素养，几何级数的技术赋能和权利赋能，会促进儿童发展再上新台阶。另一种观点认为，人工智能正在对儿童保护、儿童健康以及儿童发展带来全面挑战，“电子化童年”不利于身心健康发展，ChatGPT之类的工具可能扼杀儿童创造力、乃至压缩整个童年，技术发展会带来不可控的后果，应该进一步加强AI伦理审核，筑牢未成年人保护的屏障，不能让AI成为“童年终结者”。

如何规避“兔子洞效应”带来的风险

其实，两种观点各有其合理性。放在更宏观、更纵深的背景下来看，ChatGPT等AIGC技术的出现，只是童年革命的典型案例之一。童年理论的重大突破始终和技术革新密切相关。比如早期印刷术的发明，启蒙了人们对“童年概念”的认识，让学习和受教育成为儿童期重要的活动；再比如，无线电技术、视听教育运动和互联网技术，使图像和传播成为教育手段延展的重要媒介，加速了全球范围对儿童权利和儿童发展的认同，尤其是新冠疫情肆虐之时，线上学习有效减少了流行病造成的教育剥夺现象。然而随着技术赋能水平的迭代升级，越来越多的人开始担心，AIGC时代，儿童不再需要缓慢和复杂的学习过程，就能轻易掌握通往成人世界的密匙,尤其是当AI有了感情，能够和儿童建立更为亲密、便捷的互动，当成人的指导和监管变得越来越苍白无力时，年轻世代的价值观不确定性也几何级数上升。更令人担心的是，在全球资本主义和消费主义背景下，我们如何能在纳斯达克指数的狂飙下，客观冷静地来谈论“以儿童为中心”的发展呢？换句话说，我们充分鼓励儿童使用新媒介究竟是为了谁的利益？

举一个身边的典型案例，当儿童打开手机，一则又一则通过系统不断推送的信息和视频，会以声光影结合的方式自动弹出。看到AI布下的这些幻境图像，孩子们就像童话故事中的爱丽丝一样，为了追逐兔子，进入一个又一个无止境的洞穴，日益沉溺在虚拟世界中，无法轻易离开，逐渐脱离现实生活。欧盟用“兔子洞效应”来形象地指代当用户被平台内容和算法吸引所产生的种种网络沉溺。其实，除了网络沉溺，“兔子洞效应”还面临其他一些风险，如儿童数据安全、儿童身心健康、儿童权利以及监管责任缺失等等。

打开机遇之门：数字化如何赋能儿童发展

回顾人类历史，每一轮科技进步最终都促成了全社会整体性的发展，并没有把人类引向不可预测的深渊。这是因为技术与社会的关系总是同步发展：2018年，联合国儿基会对20个国家的儿童AI监管和保护法律法规进行了评估，包括中国、日本、新加坡等亚洲国家和英国、德国、捷克等欧洲国家以及北美国家，对这些国家在AI儿童服务、儿童隐私保护、儿童数字素养以及儿童赋能四大领域的法律框架进行比较。联合国评估报告发布以后，引起各国高度关注，意识到儿童监管领域需要国际行动，共同推进相关立法。2021年联合国儿基会和儿童权利委员会针对现行政策短板相继出台《联合国儿童AI监管政策指南》《数字环境下儿童权利第25号一般性意见》，2023年联合国教科文组织出台《教育和研究中使用生成式AI指南》，力求从制度层面积极倡导在有效监管的前提下，推进儿童参与，保护儿童权利，从而促进儿童发展。

和部分发达国家和地区在儿童网络保护方面的立法努力举步维艰相比，中国在这方面的努力尤其引人注目。2021年，新修订的未成年人保护法设网络专章，升级青少年保护模式，规定政府、社会、学校、家庭和企业的义务。2023年10月，中国出台了第一部专门性的未成年人网络保护综合立法《未成年人网络保护条例》，一方面积极回应新兴技术在推动儿童发展方面起到的积极作用，另一方面也从内容、隐私、安全和行为几个方面对未成年人网络保护提出了具体监管原则和举措，成为全球范围内具有示范效应的基本法律框架。团中央等机构公布的未成年人互联网使用最新数据显示，全国未成年人群体中互联网普及率达到96.8%，12岁以下小学生的网络普及率也超过90%，国内在线教育用户规模已经超过4亿。国际电信联盟的数据显示，2023年全球15至24岁的人口中有79%使用互联网，比其他人群高出14个百分点。

未来AI技术的迅速发展不可阻挡，美国布鲁金斯学会发布《一个全新的世界：当教育遇上元宇宙》的政策报告，指出：AI技术将在未来的5至10年全面走进人们的生活，成为教育的重要应用领域。由于技术革命，每个人都可能拥有无限拓展的学习能力和认知水平，人类能够在互联网帮助下无限连接、跨越时空，从而更深刻地认识宇宙和把握自己的命运。

无疑，传统儿童发展的领域会因此增加全新的内容，相关法律建设和政策行动也会不断推进。从促进人类文明可持续发展的层面来说，要继续推动童年革命向积极方向发展，就必须坚持国际公约所强调的“儿童利益最大化”原则，一方面加强制度建设，将儿童保护落到实处，另一方面也要突出伦理治理，通过树立AI领域正确的伦理价值原则，实现对AI技术应用进行正确的价值引导与伦理规制，建立伦理道德多层次判断结构及人机协作的伦理框架，让“儿童权利保护”“网络安全使用”“可持续发展”和“以儿童为中心”的理念深入人心，积极倡导有利于儿童发展的参与，孩子们的童年才会更加丰富生动。

（作者单位：上海社会科学院社会学所）

来源： 文汇报