陈畴镛谈人工智能：向善向上的必然趋势

潮新闻客户端 编辑 胡天立 张瑜

【编者按】

从新闻到见解，字里行间读懂社会万象。

有观点有思想，智慧碰撞把握时代脉搏。

让我们一起《读端》，一起“潮”。

本期嘉宾是杭州电子科技大学浙江省信息化发展研究院首席专家、教授陈畴镛。

（Δ视频由AI共同创作）

都说“耳听为虚，眼见为实”，但在AI技术井喷的时代，你看到听到的一切可能都是假象。

如今的AIGC正在快速迭代，图片、音频、视频似乎无所不能。从“明显假”到“真假难辨”再到“以假乱真”，在泛娱乐内容当道的短视频平台，AIGC为网友们提供了情绪价值，但有些内容似乎“跑偏”了，还给不少人带来了困扰。

详情点击>>

潮声丨AIGC，一匹脱缰的野马？

杭州电子科技大学浙江省信息化发展研究院首席专家、教授陈畴镛：

近年来，生成式人工智能不断取得突破，展现出强大的生成创造能力，开始涌现出“智慧”。生成式人工智能在文本、代码、图像、音视频等方面的理解与生成能力取得了突破性进展，加速千行百业的数字化进程，促进人类社会全面迈向智能化新阶段。AIGC在通过图片、音视频给人们带来更多个性化智能化学习、娱乐、生活的同时，也带来了如同《AIGC，一匹脱缰的野马？》这个报道中告诫的侵犯个人隐私、诱人上当诈骗等违法犯罪行为。因此，发展向善向上的生成式人工智能不仅十分必要，也愈发紧迫，需要政府、企业、公众协同发力，共同打造促进AIGC良性健康发展的生态环境。

政府需要提高对AIGC的治理和监管能力。发展安全可靠的生成式人工智能，确保全生命周期内可控地运行。我国在国家层面上有《数据安全法》《个人信息保护法》等，也出台了《生成式人工智能服务管理暂行办法》，但当前发布的AI伦理准则大多较为宏观，应在应用领域根据用户年龄、适用场景等进一步细化，特别是针对老年人等对人工智能了解不够充分容易受骗上当的人群，制定出台相关细化标准。鼓励和支持AI技术在情感交流、心理健康等领域创新应用的同时，加强伦理审查和监管，确保技术发展的方向合法合规。要强化生成式人工智能数据治理，尊重和保护个人隐私，加大对利用个人信息进行违法犯罪行为的打击力度。

开发应用企业需要提升安全稳健性和生成准确性。对公众较为关心的AI生成有害信息、泄露用户隐私等问题，必须严格遵守相关法律法规，采取加密、数据匿名化、安全存储等手段来加强管理，谨慎对待隐私数据，确保用户数据安全。生成式人工智能训练数据涉及个人数据时应依法获得用户知情和同意，确保生成内容不侵犯个人隐私。增强生成式模型防御提示攻击、注入攻击等能力，不断提高稳健性和抗干扰能力。探索内容生成可控的技术或解决方案，确保生成的信息内容尽可能准确，避免故意或非故意地使用生成式人工智能伤害社会与公众利益。

公众需要提高个人信息保护和风险防范意识。在享受AIGC带来的各种方便与愉悦的同时，应高度重视加强自身信息与隐私的保护。通过参加各类科普、教育及培训，提高对生成式人工智能的准确认知，提升数字素养，促进AIGC的普遍接入。

“转载请注明出处”