AI安全守护计划启动:构建更安全的AI未来

发表时间: 2024-07-26 17:34

近日在京举行的中国人工智能产业发展联盟(以下简称“AIIA”)安全治理委员会成果发布会上,工业和信息化部网络安全管理局、中国信通院人工智能研究所、邮储银行、讯飞数码、vivo、蚂蚁集团、第四范式等50家机构与企业代表共同见证启动了人工智能安全守护计划,该计划将共同建立AI系统情报共享机制、AIGC(生成式人工智能)真实性和可信赖来源互认机制,推动设立人工智能相关保险产品,提升国内人工智能技术的服务提供方、使用方的安全防护能力。

中国信息通信研究院(以下简称“中国信通院”)院长余晓晖说,当前人工智能安全治理需要汇聚行业各方智慧和力量,共同完善人工智能安全风险识别方法论,建立更为敏捷、精确的安全风险识别机制,尽早、尽快发现风险,加强人工智能安全评测技术工具的研究,通过技术来治理技术。

近日,微软蓝屏宕机事件引发各界反思,有业界人士提出,一次互联网时代的软件瑕疵都会引发全球“瘫痪”,若剧情在AI时代重新上演,损失将不可估量。中国信通院人工智能研究所所长魏凯说,世界各国都对人工智能的发展表示出非常大的期待,不论是发达国家或者发展中国家,普遍认为人工智能是一个巨大的机遇,同时也对人工智能的确定性安全和风险挑战表示担忧。

“随着当前AIGC内容越来越多,我们需要一定程度上区分到底哪些是人工生成,哪些是人工智能生成的。”AIIA安全治理委员会办公室主任石霖介绍人工智能安全守护计划时说,守护计划未来将推动建立统一的内容标识平台,推动实现AIGC内容可溯源、可追溯。同时,该计划也会围绕人工智能安全治理,以AI Guard 为品牌,联合国内外一些专家共同推动技术交流并共建实验室,通过试点示范等相关工作来推动人工智能安全防护水平的整体提升。

依托AIIA安全治理委员会,中国信通院在2024年上半年启动了大模型安全、AIGC检测、安全大模型、代码大模型安全、生物特征识别安全等联盟规范的制定和评估工作。会上,AIIA安全治理委员会评估结果正式公布,vivo、蚂蚁、中数通、齐鲁壹点、东方通、招商银行、阿里云、海康威视、中移金科、百度网讯、马上消费、科大讯飞、商汤等企业代表获得证书。