OpenAI GPT-4 新功能「内容审核」:一天完成六个月工作!

发表时间: 2023-08-16 23:17

整理 | 朱珂欣
出品 | CSDN程序人生(ID:coder_life)

GPT- 4 到底有多强?

问世以来,代码编写、数据分析、图表生成、执行数学运算、生成视频、分析股票市场……都不在话下,让无数网友感慨:这是要“逆天”了!

如今, GPT-4 的新功能直逼「内容审核」,可以帮助企业一天完成 6 个月工作量。


与传统方法相比,GPT-4 内容审核的优势

众所周知,传统内容审核在现阶段面临多种挑战。

  • 需要人工细致的审核、对上下文的深刻理解、快速对新用例的适应,耗时且挑战性较大。

  • 传统内容审核的重担落在「审核人员」身上,给人带来巨大的精神压力。

为此,OpenAI 表示, GPT-4 目前正在测试内容审核功能,它被用于制定和完善内容政策、标记内容和制定决策。

任何拥有 OpenAI API 访问权限的人都可以创建自己的 AI 辅助审核系统。

一方面,可以执行内容审核任务,加速处理内容审核等繁重任务,提高社交媒体公司的工作效率。

另一方面,还能使在线平台能够更快制定新内容审核规则,并完善现有规则

OpenAI 官方称:“内容审核过程本身就很缓慢,GPT-4 的新功能可以帮助审核过程能从 6 个月缩短到几个小时。”

目前,最新的 GPT-4 相较于传统的内容审核方法,存在以下优势:

  • 提供一致的判断。由于内容政策不断发展并且十分详细,GPT-4 的这项新功能能对措辞的细微差异很敏感,可以立即适应政策更新,为用户提供良好的内容体验。

  • 提高审核的反馈效率。政策更新的周期漫长,GPT-4 的这项新功能可以将这一过程缩短至几个小时,从而能够更快地响应新的危害。

  • 减轻审核人员精神负担。持续接触有害、令人反感的内容,容易导致审核人员情绪疲惫和心理压力。为此,GPT-4 的这项新功能能为相关工作人员思想减负。


如何利用 GPT-4 进行内容审核?


事实上,由 AI 驱动的审核工具并非什么新鲜事,Meta、YouTube 和 TikTok 等平台已经利用算法来控制有害和非法内容。
据 The Verge 往期报道,2020 年时,Meta(前 Facebook) 就明确表示希望 AI 在平台上承担更多的审核职责。
其审核原理为 :被认为违反公司规则的帖子(包括从垃圾邮件、含仇恨言的内容)会被用户或机器学习过滤器标记。随后,一些明确的案例会自动处理(删除帖子、阻止帐户),而其余案例则进入队列供人工审核员审核。
由此可见, OpenAI 的这枪「内容审核」并非首发。
据官方消息,这项由 GPT-4 领衔的内容审核工作,目前涉及多个工作流程。
  • 首先,公司必须创建一个包含有害内容示例的数据集
  • 随后,指示 GPT-4 用标签标记每条有害内容,并描述其违反审核政策的原因。
  • 最后,通过审查模型生成的标签,以此发现问题
就目前的情况而言, GPT-4 对于某些缺乏开发自己的内容审核系统资源的小公司,无疑是一个可行的选择。

历史里程碑 or 巨大的挑战 ?

当然,GPT-4 也并非完美。新功能虽然前景广阔,但仍然存在局限性。
在内部测试中,OpenAI 将 GPT-4 与人类内容审核团队进行了比较。
结果显示,现阶段 GPT-4 表现优于接受过“轻度训练”的审核人员,但准确性不如“经验丰富、训练有素”的审核人员。
值得关注还有 —— 语言模型的判断很容易受到训练期间引入模型的不良偏差的影响。特别是误导性、错误性和攻击性内容(不一定是非法的)的灰色区域给自动化系统带来了巨大的挑战。
任何 AI 应用程序一样,结果和输出需要审核人员参与其中来仔细监控、验证和完善。
为此,OpenAI 也强调,审核的过程不应该完全自动化。
事物发展总是利弊共存,在 OpenAI 曝光的 GPT-4 新功能内容审核后,也引发了许多业界人士的积极讨论。
  • OpenAI 的产品政策经理 Andrea Vallone 认为:“在这种情况下,审核人员可以更侧重在对可能有内容违规的极端案例如何做评判,以及怎样完善内容的政策。”此外,他也强调称:“我始终认为,人类始终参与其中是很重要的。
  • OpenAI 安全系统负责人 Lilian Weng 在接受 Semafor 时表示:“这为如何利用 AI 造福社会、解决现实世界的问题,向前迈出了非常好的一步。”
  • 外媒 Semafor 记者 Reed Albergotti 坦言:“人类实际上不太擅长内容审核,因为即使人能够记住每条规则,也会不断有内容陷入灰色区域,无法给出明确的答案。GPT-4 虽然不是完美的,但避免了人们在工作中整天查看令人不安的内容。
对此,你怎么看?

参考链接:

https://openai.com/blog/using-gpt-4-for-content-moderation

https://www.theverge.com/2023/8/15/23833406/openai-gpt-4-content-moderation-ai-meta

https://www.semafor.com/article/08/15/2023/can-chatgpt-become-a-content-moderator#room-for-disagreement