OpenAI 新团队打造 AI 价值观，奥特曼预测人类水平的AI即将问世

当地时间周二，人工智能领域的佼佼者 OpenAI 在其博客上宣布，他们正在组建一个名为“集体对齐”（Collective Alignment）的全新团队。

这个团队主要由研究人员和工程师构成，将专注于设计和实施收集公众意见的流程，以帮助训练和塑造其人工智能模型的行为，从而解决潜在的偏见和其他问题。

OpenAI 在博客中阐述道：“我们的目标是打造一个系统，它能够收集和‘编码’公众对我们模型行为的看法，并将这些宝贵的见解融入我们的产品和服务中。这样一来，我们未来的人工智能模型就能更好地‘与人类价值观保持一致’。”

近期，人工智能技术的快速发展引发了人们的担忧。特别是其创造“深度伪造”图片和其他错误信息的能力，让人们在即将到来的 2024 年美国大选前夕感到不安。

对此，OpenAI 首席执行官山姆・奥特曼（Sam Altman）表示，达到人类水平级别的人工智能即将出现，但它对世界的影响远没有我们想象的那么大。

奥特曼称，人们总担心人工智能有朝一日会变得很强大，会极大重塑和颠覆世界，实际上这种担忧是被夸大了。

奥特曼在瑞士达沃斯世界经济论坛上表示：“它（AI）给世界带来的变化比我们想象的要小得多，给工作带来的变化也比我们想象的要小得多。”

奥特曼特别提到了通用人工智能（AGI），通用人工智能可能会在“相当近的将来”开发出来。

去年 11 月份，奥特曼曾遭到 OpenAI 董事会解雇，主要原因就是公司董事会对人工智能安全和 OpenAI 在保护人工智能方面所扮演角色的担忧，并表示对奥特曼的领导失去了信心。在遭到 OpenAI 员工和投资者的强烈反对后，奥特曼迅速官复原职。