博鳌经安论坛探讨AIGC可持续发展及潜在风险的管理策略

发表时间: 2023-10-29 22:53

AIGC拥有光明的未来已经成为共识,但同时如何管理其潜在的风险?

10月29日,博鳌经安论坛第二届大会“AIGC时代的可持续发展与风险管理”分论坛在湖南长沙举行,来自政商学企各界的专家就AIGC话题进行讨论交流,为AIGC的发展提供“博鳌方案”。

今年上半年中国股市低迷,但AIGC概念股却逆势上涨。国内AIGC技术迭代速度很快,各个厂商快速发布相关模型和应用。伴随着技术本身的发展,行业应用的速度也在加快。野村综研(上海)咨询有限公司副合伙人陆成认为,得益于AIGC本身的模型优化,也得益于企业应用场景的逐步丰富,更得益于提供AIGC服务的专业公司基于大模型创造出的新价值,未来十年将会是AIGC爆发式增长的时代,平均的增长率超过30%。大语言模型和AIGC可以更充分地对个人和企业赋能,也可以减轻各领域的业务负担,因而可以大幅度提高企业和行政运行的效率。但AIGC在给国家和社会带来各种便利的同时,也带来了令人不安的风险甚至威胁。

上海交通大学中国法与社会研究院院长、Tech4SDG联盟副主席季卫东在致辞中指出,防止虚假信息蔓延和大语言模型的滥用,是AIGC时代法律的一项重要任务。他还认为,如何创建人机共存秩序,并确保社会分配正义,是AIGC时代立法、执法以及司法的重要课题。

在圆桌对话环节,上海交通大学安泰经济与管理学院教授、上海交通大学产业经济研究中心主任史占中表示,面对AIGC浪潮,劳动技能要求较低、从事重复性劳动的岗位受冲击较大,而那些具有高技能的、从事创新型岗位的群体则会收入提高。一部分人下岗失业,一部分人收益快速提升,收入差距的拉大或可能带来社会问题。

此外,季卫东特别提及,当人工智能开始进行自我塑造,进而形成一套自动化的生态人工智能系统时,必然会在社会中引起大家对AIGC特别是通用人工智能失控的恐慌,相关法律制度建设还必须把这种危机管理纳入视野之中。

国家开发投资集团特级专家赵建强博士指出,我国应对AIGC可能带来的风险及时反应。此前,我国在“一带一路”峰会上向各国发出了全球人工智能倡议。而近年来,我国结合实际,陆续出台相关制度来保证AIGC技术的良性发展。

此前,工信部把人工智能、元宇宙以及工业互联网作为数字经济发展的三驾马车。国家数据局已正式挂牌;而世界互联网大会国际组织成立了数据工作组。欧盟提出了数字主权概念,中国提出了数据区块链概念,国家权力正在重新寻找本土化、区块化的立足点。在这里,存在着中国与其他国家进行深度对话的广阔空间,存在着与国际制度接轨的重要契机。

如何在亚太地区就人工智能治理方面展开合作,也是本次分论坛热议的话题。有嘉宾指出,基于数据资产的全球合作难度较大,基于模型层面的全球合作还是较有优势,例如到更成本更低的地方建算力中心等。

新的生产范式为AI应用带来巨大潜能,但也带来挑战,例如算法、数据、应用等层面的风险。就企业如何建立防范AI风险的安全机制,商汤科技亚太区副总裁兼战略执行负责人邹春慧表示,商汤科技已率先在业内成立第一家AI伦理委员会,并把AI伦理作为公司的重要战略目标,致力于可信的AI体系化建设,积极参与相应标准、监管规则的制定。