OpenAI警惕：AI语音魅力太大，或引发社会规范变革

据japantoday8月11日报道，OpenAI 表示，它担心人工智能的逼真语音功能可能会导致人们与机器人建立联系，而牺牲人际互动。

OpenAI 周四在一份有关其在 ChatGPT-4o 版本人工智能上进行的安全工作的报告中表示：“GPT-4o 的音频功能可能会加剧这种风险，因为它有助于与模型进行更像人类的交互。”

OpenAI 表示，它注意到测试人员与人工智能交谈的方式暗示了他们之间的共同纽带，例如大声哀叹这是他们在一起的最后一天。 报告称，这些情况看上去是良性的，但必须进行研究，以了解它们在较长时期内可能如何演变。

OpenAI 推测，与人工智能进行社交也可能会使用户在与人类的关系方面变得不那么熟练，因此，报告称：“与模型的长期互动可能会影响社会规范。” “例如，我们的模型是尊重的，允许用户随时打断并‘拿走麦克风’，这虽然对于人工智能来说是意料之中的，但在人类互动中却是反规范的。”

OpenAI 表示，人工智能在对话时记住细节和完成任务的能力也可能使人们过度依赖这项技术。

AI 反抄袭检测平台 Copyleaks 联合创始人兼首席执行官 Alon Yamin 表示：“OpenAI 最近对可能依赖 ChatGPT 语音模式的担忧表明了许多人已经开始问的​问题正在发生：是不是该停下来考虑一下这项技术如何影响人际互动和关系了？” 他说人工智能永远不应该取代实际的人际互动。

编译（胡伟）

链接：https://japantoday.com/category/tech/openai-worries-its-ai-voice-may-charm-users