周鸿祎：技术对抗下的AI发展思考

来源：新浪科技

9月29日消息，在2024清华五道口首席经济学家论坛期间，关于近日发布的《人工智能生成合成内容标识办法（征求意见稿）》、《网络安全技术 人工智能生成合成内容标识方法》强制性国家标准（征求意见稿）对行业的影响，360集团创始人、董事长兼首席执行官周鸿祎对新浪财经表示，全世界所有政府和执法机构都会做同样的事情，AI是双刃剑，它会带来安全上的问题，包括影响社会稳定、网络欺诈方面，也可能成为坏人的工具。

周鸿祎坦言，现在AI生成内容的能力越来越强，如果完全做技术对抗，会让安全团队疲于奔命，老百姓也不可能都成为识别伪造内容的专家，所以一方面要靠检测技术的更新进步，此外，AIGC厂商应该有社会责任感，在自己创造的内容上，加上显性或者隐性的水印，把AI的内容标示出来，对社会对AI本身的发展都有好处。

他还谈到，即使不考虑网络诈骗问题，也无法想象失去控制的AI会让世界成为什么样子。网络社交平台上，“一些AI在发帖子，另外一帮AI在回着帖子，两帮AI的水军在帖子下面评论的不亦乐乎，如果未来AI产生的内容无法和人产生内容区分，这个世界真是我们想要的世界吗？”

周鸿祎认为，还有一个更现实的问题是AI训练严重依赖于知识，现在大量从互联网上去抓取信息作为知识的源头，但知识一旦被污染，实际上就会妨碍人工智能的进步，但现在互联网上很多内容已经被AI产生的内容污染了，“就跟疯牛病似的，实际上它对AI产业带来破坏。”

他强调，一定要既有被动的机制又有主动的机制，把AI产生的内容和真人产生的内容分开，涉及到生活中的方方面面，“把产生的内容做标识，对工具本身并不产生任何伤害。”（刘丽丽）