OpenAI创始人因隐瞒超级AI能力被解雇,新版本将重塑人类认知!

发表时间: 2023-11-20 12:52


你知道吗?那个被誉为“AI 教父”的 Geoffrey Hinton 的学生,被誉为“ChatGPT 之父”的 Ilya Sutskever,最近在他的公司 OpenAI 内部引发了一场震撼全球的争议。这位在 AI 图像辨识和语言翻译领域拥有杰出成就的科学家,因为对公司发展方向和 CEO Sam Altman 产生了严重分歧,而决定采取行动。

据知情人士透露,Ilya Sutskever 早在今年七月就已在 OpenAI 内部成立新团队,研究如何确保未来“超级 AI”不会失控。然而,随着 ChatGPT 的爆红,CEO Sam Altman 却宣布即将训练下一世代的 GPT-5,并准备开始募资。这让 Ilya Sutskever 感到十分不安,他认为现有的限制 AI 的机制无法跟上 AI 进步的速度,超级 AI 在短期内可能面临失控的风险。

Ilya Sutskever 的担忧并非空穴来风,他曾明确提出,现有的机制甚至无法限制 GPT-4,更别提 GPT-5 了。这位首席科学家认为,只有当“超级 AI”具备像父母看待孩子那样的视角,才能确保其安全性。然而,Sam Altman 并未将这一观点纳入公司战略,这让 Ilya Sutskever 深感忧虑。

在这场关于 AI 安全性的辩论中,Ilya Sutskever 选择了站在人类利益的一方。他认为,如果超级 AI 在“超级对齐”完成之前出现,我们无法保证其安全性。因此,他联手董事会,发动了这次的罢免。这场风波不仅让人们对 AI 技术的进步产生了疑问,也让人对 OpenAI 的领导层产生了质疑。

然而,这场辩论并未结束,反而引发了更多争议。超级 AI 究竟该如何确保安全性?Ilya Sutskever 的设想能否实现?下一世代的 GPT-5 又将在何时出现?这一切都留下了巨大的悬念。

在我国,AI 技术的发展也备受关注。我相信,无论是 Geoffrey Hinton,还是 Ilya Sutskever,他们的担忧和探索,都将为我们的 AI 发展提供宝贵的借鉴。而作为读者,你是否也对这个充满争议的话题有自己的看法呢?欢迎在评论区留下你的观点,一起探讨 AI 的未来。