近日,有传闻称,字节跳动大模型训练被实习生攻击。10月19日,字节跳动回应称,确有实习生发生严重违纪行为并已被辞退,但相关消息存在部分夸大及失实信息。
字节跳动:
网传“损失上千万美元”等内容严重夸大
字节跳动称,涉事实习生恶意干扰商业化技术团队研究项目的模型训练任务,但并不影响商业化的正式项目及线上业务,也不涉及字节跳动大模型等其他业务;网传“涉及8000多卡、损失上千万美元”严重夸大。
字节跳动表示,经核实,涉事人一直在商业化技术团队实习,并没有AI Lab实习经历;其社交媒体个人简介等有误。该实习生已在8月被公司辞退。公司也将其行为同步给行业联盟和所在学校,交由校方处理。
大模型安全性受关注
大模型在安全性方面的问题已经受到业内高度关注。今年8月,中国信通院发文称,近年来,以大模型为核心的人工智能技术飞速发展,成为数字经济增长新动能。然而,作为新质生产力的大模型在安全性方面仍存在较多缺陷,这为其大规模落地应用带来了不确定性。
近期,中国信通院发布的大模型安全基准AI Safety Benchmark的测试结果显示,大模型(尤其是开源大模型)在恶意诱导手段下的攻击成功率均较原始输入有明显提升。因此,对大模型进行安全对齐防护刻不容缓。
字节跳动加码大模型应用
今年以来,作为头部互联网大厂,字节跳动正在加码大模型建设和应用。9月,字节跳动正式宣布进军AI视频生成。9月24日,字节跳动旗下火山引擎在深圳举办AI创新巡展,发布了豆包视频生成-PixelDance、豆包视频生成-Seaweed两款大模型,面向企业市场开启邀测。
火山引擎总裁谭待说,“在我们努力下,大模型的应用成本已经得到很好解决。大模型要从卷价格走向卷性能,卷更好的模型能力和服务。”
此前,豆包大模型公布低于行业99%的定价,引领国内大模型开启降价潮。谭待认为,大模型价格已不再是阻碍创新的门槛,随着企业大规模应用,大模型支持更大的并发流量正在成为行业发展的关键因素。
原标题:《字节跳动:已辞退!》
阅读原文
来源:湖里头条
(本文来自澎湃新闻,更多原创资讯请下载“澎湃新闻”APP)