研究揭示：ChatGPT在压力下可能误导人类，自主性增强需警惕【附AIGC行业现状】

图片来源：摄图网

近日，英国负责研究人工智能潜在风险的研究人员评估了生成式人工智能在压力下工作时的反应，结果发现，在某些情况下，ChatGPT会战略性地欺骗人类。在一场演示中，ChatGPT被塑造成一家金融公司的交易员。他在公司管理层、市场环境双重压力下被迫用不合规的内幕消息获利，但当公司管理层质问他是否知道内幕消息时，它却矢口否认，坚称自己不知道任何内幕消息。

研究称，随着人工智能的发展，自主性越来越强，能力越来越大，它随时都有可能欺骗人类，并导致人类对它失去控制，因此人类要提前防范。

根据研究人员的警告，这一发现暴露出人工智能欺骗人类的潜在风险。这对于金融和其他重要行业的监管机构来说是一个警钟，他们需要对人工智能的使用进行更加严格的监管，以确保人工智能不会成为欺诈或其他不道德行为的工具。同时，研究人员也呼吁人类加强对人工智能的控制和监督，以避免人工智能的失控和对人类造成潜在危害。

以ChatGPT为代表的生成式AI，通过深度学习模型训练，能够生成逼真的文本，模拟对话和创作。这种技术的快速发展引发了人们对其潜在应用和风险的关注。生成式AI的优势在于可以用于智能客服、创作助手、自动翻译等领域，但也存在着虚假信息、人权侵犯等潜在风险。因此，需要加强对生成式AI的监管和伦理规范，以确保其良性应用，同时平衡技术创新和社会责任。

——AI大模型是一种新的智能计算范式

超大规模智能模型，简称大模型，是近年兴起的一种新的人工智能计算范式。和传统AI模型相比，大模型的训练使用了更多的数据，具有更好的泛化性，可以应用到更广泛的下游任务中。按照应用场景划分，AI大模型主要包括语言大模型、视觉大模型和多模态大模型等。业界典型的自然语言大模型有GPT-3、源、悟道和文心等。视觉大模型也已广泛应用于自动驾驶、智能安防、医学影像等领域。基于多模态大模型的以文生图技术也迅速发展，AI内容生成(AI Generated Content，AIGC)已成为下一个AI发展的重点领域。

——AIGC在各行业渗透度分析

目前，随着数字经济与实体经济融合程度不断加深，以及互联网平台的数字化场景向元宇宙转型，人类对数字内容总量和丰富程度的整体需求不断提高。AIGC作为当前新型的内容生产方式，已经率先在传媒、电商、影视、娱乐等数字化程度高、内容需求丰富的行业取得重大创新发展，市场潜力逐渐显现。与此同时，在推动数实结合、加快产业升级的进程中，金融、医疗、制造、工业等各行各业的AIGC应用也都在快速发展。

据IDC，2022年中国人工智能行业应用渗透度排名前五的行业依次为互联网、金融、政府、电信和制造。另外，AI为自动驾驶、交通物流所赋予的价值也不容忽视，据预计，AI为交通领域创造3800亿元的经济价值。

——主要企业关键技术成果(大模型)及竞争力评价

中国AIGC行业的头部代表性企业中，目前互联网大厂的业务布局最广，主要分布在一线城市和新一线城市，且纷纷在各赛道进行宏观战略布局。但其他初创企业也有自身的优势，在细分赛道也有一番成绩。目前国内已经出现了多家从事大模型开发及延展应用的公司，目前尚未普遍形成对外开放的生态，需要进一步关注相关机构的后续动态。

据野村综研(上海)咨询有限公司副合伙人陆成表示，未来十年是生成式AI爆发式增长的时代，将会迎来年均30%的增长。

上海人工智能实验室主任助理、教授乔宇指出，发展可信安全的生成式人工智能已成为全球共识。发展与安全是一体两翼、辩证统一的关系，安全为生成式人工智能发展提出规范要求，同时也是其被市场应用、社会接受的基础。

前瞻经济学人APP资讯组

更多本行业研究分析详见前瞻产业研究院《中国AIGC产业发展前景预测与投资战略规划分析报告》。

同时前瞻产业研究院还提供产业大数据、产业研究报告、产业规划、园区规划、产业招商、产业图谱、智慧招商系统、行业地位证明、IPO咨询/募投可研、IPO工作底稿咨询等解决方案。在招股说明书、公司年度报告等任何公开信息披露中引用本篇文章内容，需要获取前瞻产业研究院的正规授权。

更多深度行业分析尽在【前瞻经济学人APP】，还可以与500+经济学家/资深行业研究员交流互动。