独家揭秘:OpenAI内部邮件75封全解析

发表时间: 2024-12-24 21:07

3 万字全文翻译,被披露的不只是内斗。


文丨贺乾明
翻译、校对丨GPT-4o、Claude-3.5-Sonnet、贺乾明
编辑丨 黄俊杰


“创业公司的内部全都是车祸现场。只是有的你能在媒体上看到,有的看不到。” 山姆·阿尔特曼Sam Altman)的导师,硅谷孵化器 YC 创始人保罗·格雷厄姆曾这么总结他看过的千百家创业公司。


得益于阿尔特曼和特斯拉 CEO 埃隆·马斯克的争斗和诉讼,现在我们也能看到 OpenAI 早年的真实样子。双方各自公布了数批共 75 封内部邮件以及短信记录,时间跨度从 2015 年 OpenAI 筹备到 2019 年组建营利实体,展示了一群硅谷名流和天才 AI 研究者如何因为理想聚在一起,又如何随着 OpenAI 的发展争权夺利。


这些长达 3 万多字的内部记录也像是一堂 OpenAI 出品的创业课,涉及这家全球最大的 AI 创业公司早期如何讲故事、组建精英阵容,到薪酬设计、股权分配的方方面面;从低价与 Google 争夺人才到与微软谈判合作,甚至还包括曾考虑过的加密货币融资方案。而且,我们还能看到首席科学家伊利亚·苏茨克维 (Ilya Sutskever) 如何写双周报,制定 AGI 研究计划,以及阿尔特曼如何一步步控制 OpenAI,推动转型的过程。


我们全文翻译了这些内部交流记录,在保留语言风格、不改变原意的前提下适当编辑,并按照时间线整理,以尽可能完整呈现他们交流的情况。

2015 年:邀约马斯克 - 从 YC AI 到 OpenAI - 初始团队

问题

参与者:

山姆·阿尔特曼(Sam Altman),2014 年接任硅谷孵化器 YC 总裁,2019 年全职担任 OpenAI CEO。


埃隆·马斯克(Elon Musk),时任特斯拉、SpaceX CEO,为 OpenAI 出资 4000 多万美元,2018 年 2 月退出 OpenAI 董事会。


主题:问题

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 5 月 25 日 21:10(周一)


我一直在思考,是否有可能阻止人类开发 AI。


我认为几乎不可能。


既然它迟早会发生,最好是让 Google 之外的其他人先做这件事。


你觉得 YC 启动一个类似曼哈顿计划的 AI 项目怎么样?我觉得我们可以让排名前 50 的顶级人才中的很多人参与其中。我们可以设定一个架构,让这项技术通过某种形式的非营利机构属于全世界。如果项目成功,参与其中的人能获得类似加入创业公司的报酬。当然,我们会遵守并积极支持所有的监管规定。


山姆


Re:问题

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

时间:2015 年 5 月 25 日 23:09(周一)


这可能值得进一步讨论。


Re:Re:问题

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 6 月 24 日 10:24(周三)


我们的使命是,创造用于增强个人的能力的第一个通用人工智能(AGI)——即那个未来看起来最安全的分布式版本。更宽泛地说,安全应当是我们的首要追求。


我觉得,理想的启动团队是 7 到 10 人,然后逐步扩大。我们在山景城有一栋空余的建筑,他们可以用。


至于治理架构,我建议从 5 个人开始,我提议你、比尔·盖茨皮埃尔·奥米迪亚eBay 创始人)、达斯汀·莫斯科维茨Facebook 联合创始人)和我。技术由基金会拥有,用于 “全人类的福祉”。如果遇到不确定如何应用的情况,我们 5 个人做决定。研究人员有可观的财务回报,但与他们开发的技术无关。这样可以减少一些冲突(我们会付他们有竞争力的薪水,并给他们 YC 股权)。我们将持续讨论哪些工作成果应该开源,哪些不应该开源。某个时候,我们会找一个人领导团队,但他 / 她可能不该在治理委员会内。


除了治理之外,你是否会参与其中?我认为这非常有助于工作朝着正确的方向发展,并招募到最优秀的人才。理想情况下,你可以每个月(或者类似的频率)来看看他们的进展。我们通常会称那些以某种有限的方式参与 YC 的人为 “兼职合伙人,Part-Time Partner”(比如我们和彼得·蒂尔 [Peter Thiel,Paypal 联合创始人] 的合作就这样,尽管他现在非常积极),你可以随意决定我们该怎么称呼你。即使你不能投入太多时间,能公开表示支持,对招募人才也非常有帮助。


我觉得关于监管信的正确做法是,等到这项工作启动后,我可以发布一条消息,类似于 “既然我们已经开始做这件事了,我最近也在认真思考世界需要什么样的约束来保障安全。” 如果你不想签字,我也很乐意把你从签署名单中去掉。我觉得,信发布之后,会有更多人愿意支持它。


山姆


Re:Re:Re:问题

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

时间:2015 年 6 月 24 日 23:05(周三)


我同意所有的提议。


AI docs


新增参与者:

伊利亚·苏茨克维 (Ilya Sutskever),Google 原资深研究科学家,放弃数百万美元年薪加入 OpenAI,担任首席科学家,2023 年 11 月联合 OpenAI 董事驱逐阿尔特曼,今年 5 月离职。


主题:AI docs(OpenAI 披露)

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 11 月 20 日 11:48(周五)


埃隆-


我们的计划是让你、我和伊利亚三个人组成 YC AI (注:OpenAI 早期名称)的董事会,它将是一个位于特拉华州的非营利组织。我们还会描述清楚,由董事会成员选举两位外部人士加入董事会。


我们会在章程中写明,任何可能危害人类安全的技术,必须经过董事会的同意才能发布。我们也会在研究人员的聘用合同中提到这一点。


整体来说,你觉得这个方案怎么样?


我抄送给了我们的法律顾问 <****>(OpenAI 隐藏的内容,下同),请问你那边是否有人可以跟他对细节?


Re:AI docs(OpenAI 披露)

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

时间:2015 年 11 月 20 日 12:29(周五)


我认为它应该由 YC 支持并独立于 YC,而不是听起来像 YC 的一个子公司。


另外,当前的架构似乎不是最理想的。特别是,YC 的股权和非营利组织的薪水,会让激励机制变得模糊。更好的做法,可能是设立一个标准的 C 型公司(注:可以理解为营利公司),并同时设立一个非营利组织。


电话内容跟进


新增参与者:

格雷格·布洛克曼(Greg Brockman),硅谷金融科技独角兽 Stripe 原 CTO,后担任 OpenAI 总裁。


主题:电话内容跟进

发件人:格雷格·布洛克曼

收件人:埃隆·马斯克

时间:2015 年 11 月 22 日 18:11(周日)


嗨,埃隆


很高兴刚才和你聊了下。


正如我在电话中提到的,这是博客文章的最新版本:https://quip.com/6YnqA26RJgKr。(山姆、伊利亚和我正在考虑新的名字,如果你有任何建议,非常欢迎。)


显然,还有很多细节需要修改,但我很好奇你对这样传递信息的看法。我不想避重就轻,如果你觉得合适,我会更直白地传递信息。我认为最重要的是,我们的信息能吸引到做研究的人(或者至少是我们想要招聘的那部分人)。我希望我们能作为一个中立的团队进入这个领域,广泛合作,将对话引导到 “人类的胜利” 上,而不是某个特定的团队或公司。(我认为这是我们成为领先研究机构的最佳途径。)


我附上了我们一直在用的 offer 模板,年薪为 17.5 万美元。以下是我发给候选人的邮件模板:


附件是你正式的 YC offer!请按照你方便时间签署日期。我们还会发送另外两份文件给你:

1. 一封单独的信,向你提供每期 YC 训练营 0.25% 的股份(作为 YC 顾问的报酬)。

2.《自由雇佣协议》《信息保密协议》《发明转让协议》《仲裁协议

(由于这是我们首次发出正式 offer,如果过程中有任何不顺畅之处,请多多包涵,若有任何疑问,随时告知!)


我们计划提供以下福利:

健康、牙科和视力保险

无限制的假期,建议每年休假四周

带薪育儿假

当你在会议上展示 YC AI 的工作成果,或者受 YC AI 邀请参加会议,相关费用由 YC AI 支付。


我们也很乐意提供签证支持。如果您准备好讨论签证相关事宜,随时联系我,我可以为你对接 YC 的 Kirsty。


如果你有任何问题,请随时联系我——我随时愿意聊!期待一起工作 :)。


gdb(注:格雷格·布洛克曼名字的缩写)


Re:电话内容跟进(OpenAI 披露)

发件人:埃隆·马斯克

收件人:格雷格·布洛克曼

时间:2015 年 11 月 22 日 19:48(周日)


博客内容看起来不错,但需要调整为中立视角,不要过于偏向 YC。


我倾向于将博客调整为更吸引公众的方向——得到公众的支持对我们的成功非常重要——同时,为招聘准备一个更长、更详细、更加专业的版本,在面向公众的版本结尾附上指向该版本的链接。


我们需要提出一个远大于 1 亿美元的数字,否则在 Google 或 Facebook 的支出面前,我们会显得毫无竞争力。我建议宣布一个 10 亿美元的资金承诺。这是切实可行的,我会承担其他人未能提供的部分。


模版总体不错,只需将默认奖励调整为分期发放的现金奖金,同时允许转化为 YC 的股权,或者可能是 SpaceX 的股权(需要进一步确认具体金额)。


开头段落的草稿


主题:开头段落的草稿

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

时间:2015 年 12 月 8 日 9:29(周二)


把开头的总结部分写好非常重要。这是大家首先阅读的内容,也是媒体通常会引用的部分。发布它就是为了吸引顶尖人才。我不确定格雷格真的明白这一点。

——

OpenAI 是一家非营利的 AI 研究公司,目标是以最有可能造福全人类的方式推动数字智能的发展,不受追求财务回报的束缚。


我们公司的基本理念是,尽可能广泛地传播 AI 技术,将其作为每个人意志的延伸,确保在自由精神的指导下,数字智能的力量不被过度集中,并朝着全人类共同期望的未来演化。


这一项目的结果尚不确定,薪酬也比其他公司低。但我们相信,我们的目标和架构是正确的。我们希望这是最优秀的人才最看重的东西。


Re:开头段落的草稿

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 12 月 8 日 10:34(周二)


这个怎么样?

——

OpenAI 是一家非营利的 AI 研究公司,目标是以最有可能造福全人类的方式推动数字智能的发展,不受追求财务回报的束缚。


由于我们没有财务压力,可以专注开发对人类影响最大、影响最积极的 AI 技术,并尽可能广泛地传播。我们相信 AI 应该是个人意志的延伸,并且在自由精神的指导下,避免将其集中在少数人手中。


这一项目的结果尚不确定,薪酬也比其他公司低。但我们相信,我们的目标和架构是正确的。我们希望这是最优秀的人才最看重的东西。


刚刚得到消息 ...…


主题:刚刚得到消息 ...…

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 12 月 11 日 11:30(周五)


刚刚得到消息,DeepMind 明天会给 OpenAI 的每个人提供高价 offer,试图打压我们。


你是否介意我主动提高大家的薪酬,每年增加 10 万到 20 万美元?我认为他们都受到使命的激励,但加钱会向大家传递一个积极的信号——我们会长期关心并照顾他们。


看起来 DeepMind 打算开战,他们甚至在 NIPS (注:AI 领域顶级学术会议)上直接堵人。


Re:刚刚得到消息 ...

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

时间:2015 年 12 月 11 日(周五)


伊利亚有没有给出确切的答复?


如果有人表现出一丁点犹豫,我都很乐意亲自给他们打电话。我已经告诉 Emma,这件事是我全天候待命的首要任务。


Re:Re:刚刚得到消息 ...…

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 12 月 11 日 12:15(周五)


是的,已经承诺了,刚刚拿到了他的承诺。


Re:Re:Re:刚刚得到消息 ...…

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

时间:2015 年 12 月 11 日 12:32(周五)


太棒了


Re:Re:Re:Re:刚刚得到消息 ...

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

时间:2015 年 12 月 11 日 12:35(周五)


大家感觉都很好,还在说一些话,类似 “尽管让 DeepMind 报价好了,遗憾的是,他们没有 ‘坚持做正确的事’ 的价值观支持”。


消息(注:OpenAI 成立)将在太平洋标准时间下午 1:30 发布


OpenAI 公司


新增参与者:


帕梅拉·瓦加塔(Pamela Vagata),Facebook 原 AI 研究工程师,2016 年离职


维琪·张(Vicki Cheung),多邻国、医疗保健公司 TrueVault 原工程师,2017 年底离职


迪亚德里克·金玛(Diederik Kingma),当时博士未毕业,2018 年离职


安德烈·卡帕西(Andrej Karpathy),当时博士未毕业,2017 年离职加入特斯拉,2023 年重返 OpenAI,2024 年再次离职


约翰·舒尔曼(John D. Schulman) ,当时博士未毕业,2024 年离职


特雷弗·布莱克威尔(Trevor Blackwell), YC 原合伙人,2017 年离职


主题:OpenAI 公司

发件人:埃隆·马斯克

收件人:伊利亚·苏茨克维、帕梅拉·瓦加塔、维琪·张、迪亚德里克·金玛、安德烈·卡帕西、约翰·舒尔曼、 特雷弗·布莱克威尔、格雷格·布洛克曼

抄送: 山姆·阿尔特曼

时间:2015 年 12 月 11 日 16:41(周五)


祝贺大家迈出了伟大的第一步!


我们在人数和资源上远不及一些大家熟知的机构,但我们站在正义这边,这一点非常重要。我觉得我们有很大的机会。


我们需要考虑的最重要的事是招募顶尖人才。任何公司的成就,最终都是团队成员共同努力的结果。如果我们能持续吸引到最有才华的人,并且方向和目标一致,那么 OpenAI 一定能够成功。


因此,请大家好好想想,应该让谁加入我们。如果在招聘或其他方面我能提供帮助,请随时告诉我。我建议特别关注那些尚未完成研究生甚至本科学业,但显然非常聪明的人。最好在他们取得突破性成果之前让他们加入。


期待与大家合作,

埃隆


2016 年:组建团队 - 薪酬架构 - 微软的千万美元订单 - 马斯克的反对


祝贺猎鹰 9 号成功


主题:转发:祝贺猎鹰 9 号成功(OpenAI 披露)

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼、伊利亚·苏茨克维、格雷格·布洛克曼

时间:2016 年 1 月 2 日 8:18(周六)

[转发邮件]

——

嗨,埃隆,


祝你新年快乐,███!(注:█ 是 OpenAI 隐藏的信息,下同)


恭喜猎鹰 9 号着陆,这真是一个了不起的成就,现在是时候开始打造舰队了!


最近我看到你(还有山姆和其他 OpenAI 的人)频繁接受采访,称赞 AI 开源的优点,但我想你也清楚,这并不是某种万能的方案,它总不能神奇地解决安全问题吧?实际上,有许多有力的证据表明,你们采取的这种方法可能非常危险,甚至可能增加世界的风险。一些显而易见的观点在这篇博客文章中有很好的阐述,我相信你已经看过了,但还有一些其他的重要因素值得考虑:http://slatestarcodex.com/2015/12/17/should-ai-be-open/


我很希望能听到你对这些观点的反驳意见。


Re:转发:祝贺猎鹰 9 号成功(OpenAI 披露)

发件人:伊利亚·苏茨克维

收件人:埃隆·马斯克、伊利亚·苏茨克维、格雷格·布洛克曼

时间:2016 年 1 月 2 日 9:06(周六)


文章的重点是 “迅速突破” 场景:如果发生迅速突破,并且开发一个安全的 AI 比开发一个不安全的 AI 更难,我们开源所有内容,就可能让拥有大量硬件资源的恶意行为者轻易开发出一个不安全的 AI,而这个 AI 将迅速突破。


随着我们离开发 AI 越来越近,减少开放会变得更加合理。在 OpenAI 的语境中,“开放” 意味着 AI 开发完成后,所有人都可以从中受益。但不分享成果是完全可以接受的(不过短期乃至中期,为了招聘,分享所有成果无疑是正确的策略)。


Re:Re:转发:祝贺猎鹰 9 号成功(OpenAI 披露)

发件人:埃隆·马斯克

收件人:伊利亚·苏茨克维

时间:2016 年 1 月 2 日 9:11(周六)


没错。


后续想法

主题:后续想法(OpenAI 披露)

发件人:伊利亚·苏茨克维

收件人:埃隆·马斯克

抄送:格雷格·布洛克曼、山姆·阿尔特曼

时间: 2016 年 2 月 19 日 10:28(周五)


几点说明:


  • 解决了 “概念” 问题,并不意味着我们就能获得 AI。还需要解决的其他问题包括无监督学习、迁移学习和终身学习。目前我们在语言理解方面的表现也相当差。这并不意味着,这些问题在未来几年不会取得显著进展。但我们不能说,只有一个问题阻碍着我们实现完全达到人类水平的 AI。
  • 我们今天无法开发 AI,是因为缺乏关键想法(也可能是计算机太慢了,但我们现在还无法确定)。强大的想法来自顶尖的人才。大规模的计算集群确实有帮助,非常值得投入,但作用相对较小。
  • 接下来 6 到 9 个月内,我们有望取得传统意义上的重要成果,因为我们已经有了一支非常优秀的团队。要想取得改变整个领域的突破性成果更难、风险更大,需要更长时间。但我们也有合理的计划来应对这些挑战。


Re:后续想法(OpenAI 披露)

发件人:埃隆·马斯克

收件人:伊利亚·苏茨克维

抄送:格雷格·布洛克曼、山姆·阿尔特曼

时间: 2016 年 2 月 19 日 12:05(周五)


坦率地说,AI 社区花了这么长时间才弄清楚这些概念,让我感到惊讶。这看起来并不算太难。将大量深度网络在高层次上连接到一起,听起来像是正确的方法,或者至少是正确方法的关键部分。███████████████████████████████


DeepMind 创造出深度智能的概率每年都在增加。也许在 2 到 3 年内它不会超过 50%,但很可能会超过 10%。考虑到他们的资源,在我看来,这个想法并不疯狂。


无论如何,我认为高估竞争对手总比低估好得多。


这并不意味着,我们应该着急地招聘不够优秀的人才。这么做无法取得任何好结果。我们需要做的是加倍努力,去寻找世界上最优秀的人才,采取一切必要的手段将他们吸引到公司里,并给他们高度的紧迫感。


在接下来的 6 到 9 个月内,OpenAI 必须取得一些重要的成果,来证明我们真正有实力。不一定非得是重大突破,但至少应该足够让全球的关键人才注意到它,并产生兴趣。


████████████████████████████████████████████████████████████████████████████████████████████████████████████


薪酬框架

主题:薪酬框架

发件人:格雷格·布洛克曼

收件人:埃隆·马斯克

抄送:山姆·阿尔特曼

时间: 2016 年 2 月 21 日 11:34(周日)


大家好,


我们正在进行成立以来的第一轮全职招聘。这显然非常重要,因为这将对未来产生长期影响。我现在还不太有把握单独做决定,希望能得到一些指导。


以下是我们当前的安排:


创始团队: 年薪 27.5 万美元 + 0.25% 的 YC 股权

  • 也可以选择把年薪永久转为每年固定的 12.5 万美元奖金,或者等值的 YC 或 SpaceX 股权。我不确定是否有人选了这个。


新聘人员: 17.5 万美元年薪 + 12.5 万美元年终奖或等值的 YC 或 SpaceX 股权。奖金根据绩效评估,可能为 0% 或大于 100%。


特殊情况: 格雷格 + 伊利亚 + 特雷弗

我们的计划是基本薪资保持大体一致,用浮动的奖金奖励表现优秀的员工。


一些说明:

  • 股权 8 年内归属完成,我们使用 20% 的年化折算,12.5 万美元的奖金相当于 0.12% 的 YC 股权 。因此,最终价值大约为 75 万美元。虽然这个数字听起来更有吸引力,但估值很难精确。
  • 创始团队最初每人 17.5 万美元年薪。在实验室启动的第二天,我们主动将每个人的薪水加了 10 万美元,告诉他们,我们在实验室成功时会在财务上全力支持他们,并要求他们承诺忽视所有 offer,相信我们会照顾好他们。
  • 我们目前正在面试 Brain (注:Google 的研究部门)的伊恩·古德费洛(Ian Goodfellow),他是我们这个领域内顶尖的两位科学家之一(另一个是 DeepMind 的亚历克斯·格雷夫斯[Alex Graves])。他是 Brain 中最优秀的人,所以 Google 肯定会全力争取他。我们计划将他纳入创始团队的薪酬方案。


一些薪资数据:

  • 约翰在 DeepMind 的年薪总包为 25 万美元,他认为自己可以轻松谈到 30 万美元。
  • FAIR(Facebook AI 实验室)口头上给 Wojciech(沃伊切赫·萨伦巴)的报价是每年 125 万美元(但没有具体的书面信息)。
  • 安德鲁·图洛克(Andrew Tulloch)在 Facebook 的年薪为 80 万美元(大部分是股票,还在归属中)。
  • 伊恩·古德费洛目前在 Google 的薪酬是 16.5 万美元现金 + 每年 60 万美元股票。
  • 苹果公司有点急着招人,提供 55 万美元现金(加股票,推测还有额外补偿)。不过,我认为没什么优秀的人会接受。


我目前在关注的两个具体候选人:

  • 安德鲁很有可能接受我们的报价,但他担心薪资差距太大。
  • 伊恩说,薪资不是他最关注的事,但湾区的生活成本很高,他希望能买得起房子。如果 Google 给他开出像给伊利亚那样的薪资,我不确定会发生什么。


我现在的问题是:


1. 我预计安德鲁会尝试提高薪资。我们是否应该坚持现有的 offer,并告诉他只有在他非常愿意接受这个薪资后才能加入(并告诉他其他人也放弃了更高的收入)?


2. 伊恩将在周三面试并(我相信)收到 offer。我们是否应该把他的 offer 视为最终方案,还是应该根据 Google 的 offer 调整?


3. 根据 1 和 2 的问题,我在思考这种平衡薪资的策略是否可行。如果我们继续保持现状,我觉得我们可能需要特别强调浮动奖金的价值。或许可以考虑使用签约奖金作为杠杆吸引人才?


4. 虽然不太重要,但我们的实习生薪资低于市场:每月 9 千美元。(Facebook 提供 9 千美元 + 免费住房, Google 提供约 1.1 万美元的月薪)。对实习生来说,薪资并不是最重要的,经验才是重点。但我认为我们可能因此失去了一些合适的候选人。考虑到实习生每小时的薪资比全职员工低很多,我们是否应该考虑提高薪资?

随时可以讨论这些问题。


gdb


Re:薪酬框架

发件人:埃隆·马斯克

收件人:格雷格·布洛克曼

抄送:山姆·阿尔特曼

时间: 2016 年 2 月 22 日 0:09(周一)


我们必须全力以赴争取顶尖人才。就提高薪资吧。如果某个时候需要重新调整现有员工的薪资,那也没问题。


我们要么吸引到世界上最优秀的人才,要么被 DeepMind 打败。


不惜一切代价吸引顶尖人才,我完全支持。


DeepMind 正在给我带来极大的心理压力。如果他们赢了,后果将非常严重,他们 “一心统治世界” 的价值观让我非常担心。


显然,他们正在取得重大进展,毕竟那边的天才实在太强了。


Re:Re:薪酬框架

发件人:格雷格·布洛克曼

收件人:埃隆·马斯克

抄送:山姆·阿尔特曼

时间: 2016 年 2 月 22 日 0:21(周一)


明白,完全理解你的意思。计划已经定了。我会继续和山姆一起处理具体细节,如果你想了解最新情况,请随时告诉我。


gdb


《连线》杂志采访

新增参与者:

山姆·泰勒(Sam Teller),时任马斯克首席助理


主题:《连线》杂志采访

发件人:格雷格·布洛克曼

收件人:埃隆·马斯克

抄送:山姆·泰勒

时间: 2016 年 3 月 21 日 0:53(周一)


嗨,埃隆,


我接受了《连线》杂志关于 OpenAI 的采访,事实核查员向我提出了一些问题。我想特别和你同步两点,确保回答合理并与你的立场一致:


1. OpenAI 是否会公开所有的研究?


在任何时候,我们都会采取最有可能最大化造福世界的行动。短期内,我们认为最好的方式是公开我们的研究成果。但从长期来看,这可能不是最好的方法:例如,某些有潜在危险的技术可能不适合立即共享。无论在任何情况下,我们都会无偿分享我们所有研究的所有成果,并希望这些成果能惠及整个世界,而不是集中于某个特定机构。


2. OpenAI 是否认为,让尽可能多的人掌握最先进的 AI 技术,是防止过于强大的 AI 落入私人手中并威胁世界的最佳路径?


我们认为,用 AI 扩展个体意志,是确保 AI 始终造福人类的最有前景的路径。这种方法的吸引力在于,有许多能力相当的智能体存在时,它们可以相互制衡,防止单一坏人的影响。但我们不会声称已经有了所有的答案:相反,我们正在建立一个能够寻找这些答案的机构,而且无论答案为何,这个机构都能采取最佳行动。


谢谢!


gdb


Re:《连线》杂志采访

发件人:埃隆·马斯克

收件人:格雷格·布洛克曼

抄送:山姆·泰勒

时间: 2016 年 3 月 21 日 6:53(周一)


没问题。


关于莫琳·多德的问题

新增参与者:

莫琳·多德(Maureen Dowd),时任《纽约时报》专栏作家


亚历克斯·汤普森(Alex Thompson),时任莫琳·多德的助理


主题:关于莫琳·多德的问题

发件人:山姆·泰勒

收件人:埃隆·马斯克

时间: 2016 年 4 月 27 日 7:25(周三)

[转发亚历克斯·汤普森的邮件]

——


嗨,山姆,


希望你今天过得愉快,很抱歉再次打扰你。我想确认莫琳是否可以了解马斯克先生对扎克伯格先生一些公开评论的回应。特别是扎克伯格称马斯克对 AI 的担忧 “过于夸张”,并批评那些 “危言耸听” 者关于 AI 危险的言论。我在下方附上了扎克伯格先生的评论细节:


最近在德国,当被问及马斯克的担忧时,扎克伯格称这些担忧 “过于夸张”,并赞扬了 AI 的突破,其中包括一个系统。他声称,这个系统可以用手机诊断皮肤病变是否是癌症,准确性堪比 “最好的皮肤科医生”。


“除非我们真的搞砸了,” 他说,机器将始终服从于人类,而不会成为 “超人”。


“我认为,我们可以开发一种 AI,它为我们工作,帮助我们 ...... 有些人渲染 AI 是一种巨大威胁,但我觉得这种担忧过于牵强,远不及疾病、暴力等造成的灾难。” 在 4 月的 Facebook 开发者大会上,他将自己的理念概括为:“选择希望,而不是恐惧。”


亚历克斯·汤普森

《纽约时报》


Re:关于莫琳·多德的问题

发件人:埃隆·马斯克

收件人:山姆·泰勒

时间: 2016 年 4 月 27 日 12:24(周三)


历史明确表明,任何强大的技术都是一把双刃剑。假设 AI——可以说是所有技术中最强大的——仅仅只有一面,是非常愚蠢的。


微软最近的 AI 聊天机器人就是一个例子,展示了它如何在短时间内迅速产生负面影响。明智的做法是,对 AI 的到来保持谨慎,确保其力量被广泛分配,而不是被任何一家公司或个人掌控。


这正是我们创立 OpenAI 的原因。


微软托管协议

主题:微软托管协议

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

抄送:山姆·泰勒

时间:2016 年 9 月 16 日 14:37(周五)


以下是微软的条款:用 1000 万美元,购买价值 6000 万美元的计算资源,我们也可以对他们在云上部署的内容提出建议。如果你有什么反馈,请告诉我。


山姆


微软 /OpenAI 条款


微软与 OpenAI:加速 Azure 和 CNTK 上深度学习的发展


此《非约束性条款清单》(以下简称 “条款清单”)由微软公司(“微软”)与 OpenAI(“OpenAI”)共同拟定,列出了双方潜在商业合作关系的条款。该条款清单用于讨论,并未涉及在签署具有法律约束力的商业协议(“商业协议”)之前需要达成一致的所有事项。该条款清单的存在及内容,以及与之相关的所有讨论,均属于双方于 2016 年 3 月 17 日签署的保密协议(“NDA”)下所定义和约束的保密信息。除保密义务外,本条款清单本身并不具约束力。


合作目的


OpenAI 专注于以造福人类的方式推动深度学习发展。微软希望与 OpenAI 合作,加速微软 Azure 上的深度学习发展。为此,微软将以优惠价格向 OpenAI 提供 Azure 的计算资源,使 OpenAI 能够有效地推进使命。


合作目标


微软

  • 加速 Azure 上的深度学习发展
  • 吸引下一代开发者群体
  • 共同宣传并推动 Azure 上的深度学习发展

OpenAI

  • 在协议期内(3 年)获得大幅折扣的 GPU 计算资源:价值 6000 万美元的计算资源,仅需支付 1000 万美元,用于其非营利研究
  • 宣传和推广 OpenAI 使用 Azure


参与方(法律实体):微软、OpenAI


拟定协议签署日期:2016 年 9 月 19 日


拟定协议生效日期:同协议签署日期


法律文件起草方:微软


合作期限: 3 年


工程条款


  • 计算资源: 微软将按照商定的价格向 OpenAI 提供 GPU 计算资源,支持他们在 Azure 上运行任务。
  • 地理位置: 微软将根据容量和可用性自行决定计算资源的位置,并向 OpenAI 提供部署策略和时间表。
  • 服务水平协议: 微软保证,OpenAI 在同一可用性集(Availability Set)部署两个或更多实例的虚拟机,在 99.95% 的时间内,至少有一个可用。微软会遵守 Azure 官方网站上的服务水平协议 。[链接失效]
  • 评估、推广和使用 CNTK v2、Azure Batch 和 HD-Insight:OpenAI 将评估 CNTK v2、Azure Batch 和 HDInsight,用于研究并提供改进建议。OpenAI 与微软合作,在其研究和开发者生态系统中推广这些工具,并将微软 Azure 作为首选的公共云平台。在适合研究的前提下,OpenAI 可自行决定采用这些产品。
  • 扩展计划:微软和 OpenAI 合作制定扩展计划,以平衡各集群的容量。初始扩展时间表为至少 30 天,并根据微软未来的容量扩展计划调整。
  • 容量分配:OpenAI 将在短期内获得位于美国南部中部的试用集群的容量。2016 年四季度上线的 K80 GPU 集群将为 OpenAI 提供配额,预计 2017 年一季度(自然年)进一步扩大容量。


财务条款


  • 微软以大幅折扣的方式提供价值 6000 万美元的计算资源(包括 GPU),OpenAI 在合作期内支付 1000 万美元。如果合作期结束时,OpenAI 使用的计算资源少于 1000 万美元,OpenAI 要支付未使用部分的差价。


营销与公关条款


微软和 OpenAI 承诺共同推广 Azure 平台的深度学习能力,并达成以下共识:

  • Ignite:在微软 Ignite 活动中宣布合作伙伴关系,由双方高管(OpenAI 的山姆·阿尔特曼和微软的萨提亚·纳德拉)共同见证合作启动。
  • 公关:微软和 OpenAI 将共同发布关于合作伙伴关系的联合新闻稿,并制作博客文章和视频等宣传材料。


Re:微软托管协议

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

抄送:山姆·泰勒

时间:2016 年 9 月 16 日 15:10(周五)


这真让我感到恶心。这太扯淡了,完全符合我对他们的预期。


评估、推广和使用 CNTK v2、Azure Batch 和 HD-Insight:OpenAI 将评估 CNTK v2、Azure Batch 和 HDInsight,用于研究并提供改进建议。OpenAI 与微软合作,在其研究和开发者生态系统中推广这些工具,并将微软 Azure 作为首选的公共云平台。在适合研究的前提下,OpenAI 可自行决定采用这些产品。


可以这么说,我们愿意让微软把闲置的计算资源捐赠给 OpenAI,并让外界知道这一点,但我们不想签署任何合同或同意 “推广”。他们可以随时终止支持,我们也可以随时退出。


Re:Re:微软托管协议

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

抄送:山姆·泰勒

时间:2016 年 9 月 16 日 15:33(周五)


读到那部分我也有同样的反应,他们已经同意删除这一条。


我们最初只是希望得到捐赠闲置计算资源,但团队希望确保有足够的资源。我会和微软谈,确保没有任何附加条件。


Re:Re:Re:微软托管协议

发件人:埃隆·马斯克

收件人:山姆·阿尔特曼

抄送:山姆·泰勒

时间:2016 年 9 月 16 日(周五)


我们应该低调处理这事。不要有任何承诺,也不签合同。


Re:Re:Re:Re:微软托管协议

发件人:山姆·阿尔特曼

收件人:埃隆·马斯克

抄送:山姆·泰勒

时间:2016 年 9 月 16 日 18:45(周五)


好的,我会看看这个方向上能争取到多少资源支持。


Re:Re:Re:Re:Re:微软托管协议

发件人:山姆·泰勒

收件人:埃隆·马斯克

时间:2016 年 9 月 20 日 20:05(周二)


以 “由 OpenAI 全权决定、努力保证诚信” 为前提,微软现在愿意达成一项总额为 5000 万美元的协议,并且双方可随时终止合作。没有推广要求,没有附加条件,也不会让我们看起来像微软的营销工具。可以推进了吗?


Re:Re:Re:Re:Re:Re:微软托管协议

发件人:埃隆·马斯克

收件人:山姆·泰勒

时间:2016 年 9 月 21 日 0:09(周三)


只要他们不在宣传中主动提到这件事,我没意见。如果能避免看起来像微软的 “营销工具”,这比 5000 万美元更有价值。