ChatGPT突然故障:似乎遭遇了某种标记混乱

发表时间: 2024-02-22 08:22

鞭牛士报道,2月22日消息,据外电报道,OpenAI 广受欢迎的 ChatGPT 人工智能 (AI) 系统在 2 月 20 日至 21 日期间遭遇了一点公众崩溃,它通过吐出胡言乱语和其他奇怪的内容来迷惑用户。

截至太平洋标准时间2月21日8点14分,问题已得到解决。OpenAI 状态页面的最新更新表明ChatGPT 运行正常。这表明该问题在 OpenAI 首次报告后 18 小时就得到解决。

目前尚不清楚到底是什么导致了该问题,OpenAI 尚未回复置评请求。

根据对报告输出的粗略检查,ChatGPT 似乎经历了某种形式的标记化混乱。由于基于 GPT 技术构建的大型语言模型的黑匣子性质,OpenAI 的科学家可能无法准确诊断出问题所在。如果是这种情况,团队很可能会专注于预防措施,例如针对长串明显的乱码实施进一步的防护措施。

社交媒体情绪似乎表明,聊天机器人造成的任何损害总体上仅限于浪费用户期望对查询做出合理回应的时间。

然而,这个例子说明了生成式人工智能系统有可能随时发送意外的、幻觉的或不一致的消息。这些类型的不良反应可能会产生负面后果。

例如,加拿大航空最近发现,当法院命令加拿大航空向从客户服务聊天机器人收到有关预订政策的不良信息的客户支付部分退款时,它不能归咎于该算法。

正如 ChatGPT 最近的失败所表明的那样,即使是最强大的模型也可能会遇到任何规模的意外失败。