微软与OpenAI合作的内幕

这两家公司已经磨合出了一个雄心勃勃但安全地发布人工智能的方案。然后OpenAI的董事会炸掉了他们精心制定的所有计划。

在感恩节前的一个星期五上午11:30左右,微软首席执行官萨蒂亚·纳德拉正在与高管进行每周例会,这时一位惊慌的同事告诉他接电话。来自OpenAI的一位执行官打来解释说,在未来20分钟内,这家人工智能创业公司的董事会将宣布解雇联合创始人兼CEO山姆·阿尔特曼。这标志着微软某些员工称之为“火鸡射击混乱”的为期5天的危机的开始。

纳德拉性情温和,但他被惊呆了,一时间不知道该说什么。他与阿尔特曼已经密切合作了4年多,并越来越欣赏和信任他。此外,他们的合作刚刚引领微软实现十年来最大规模的产品发布:一系列建立在OpenAI技术之上的领先人工智能助手,集成到微软的核心生产力程序中,如Word、Outlook和PowerPoint。这些助手本质上是OpenAI号召的ChatGPT的专业化、更强大的版本,被称为Office Copilots。

然而,纳德拉不知道的是,阿尔特曼与OpenAI董事会之间的关系已经变得紧张。董事会6名成员中有些人发现阿尔特曼具有操纵性和狡猾性——这些品质在科技公司CEO中很常见,但对那些有学术或非营利背景的董事会成员来说却令人恼火。“他们觉得山姆撒谎了,”一位熟悉董事会讨论的人说。这些紧张关系现在在纳德拉面前爆发,威胁到关键的合作关系。

这些年来,微软一直没有处于技术行业的前沿,但与OpenAI的联盟使这家计算机巨头能够跳过谷歌和亚马逊等竞争对手。Copilots允许用户轻松地向软件提出问题,就像向同事提问一样——“告诉我视频通话中描述的每个计划的优缺点”或“这20个电子表格中哪个产品最赚钱?”——并立即获得答案,以流畅的英语。Copilots可以根据简单的指令撰写整篇文档。(“查看我们过去10份执行摘要,并创建过去10年的财务叙事。”)他们可以将备忘录变成PowerPoint。他们可以监听Teams视频会议,然后用多种语言总结所说的内容,并为与会者编制待办事项列表。

构建Copilots需要与OpenAI持续合作,这种关系对纳德拉的微软计划至关重要。特别是,微软与OpenAI的工程师合作安装了安全警戒系统。OpenAI的核心技术被称为GPT,代表生成式预训练转换器,这是一种被称为大型语言模型的人工智能。GPT通过吞噬公开可用的互联网文本和其他数字存储库,然后使用复杂的数学方法来确定每个信息片段与所有其他信息片段的相关性,从而学会模仿人类对话。尽管这种系统产生了惊人的结果,但它也有显著的弱点:倾向于“幻觉”或发明事实;有能力帮助人们做坏事,如生成吗啡配方;无法区分合法的问题(“我该如何与青少年谈论毒品?”)和险恶的询问(“我该如何诱导青少年吸毒?”)。微软和OpenAI已经磨合出了一个在人工智能工具中加入保障措施的方案,他们相信,这允许他们有雄心又不冒险祸。 Copilots的发布是一个从今年春天开始的过程,首先面向选定的企业客户,然后在11月进行更广泛的扩展,这是两家公司的重要时刻,也表明微软和OpenAI将成为将人工智能引入公众视野的支柱。 2022年底推出的ChatGPT获得了轰动效应,但每天只有约1400万用户。而微软拥有10亿多用户。

当纳德拉从阿尔特曼被解雇的震惊中恢复过来时,他打电话给OpenAI董事会成员亚当·邓杰洛,并迫切要求他提供细节。邓杰洛给出了与几分钟后出现在新闻稿中的含糊其辞的解释:阿尔特曼在与董事会的沟通中“言词不一致”。阿尔特曼有不当行为吗?没有。但邓杰洛却不愿多说。看起来,他和他的同事故意没有让纳德拉意识到他们打算解雇阿尔特曼,因为他们不想让纳德拉警告他。

纳德拉恼火地挂断了电话。微软拥有OpenAI盈利部门近一半的股份,他理应就这样的决定发表意见。此外,他知道这次解雇很可能会在OpenAI内部乃至整个科技行业引发内战,而当时科技行业一直在就人工智能的快速进步应该庆祝还是担忧进行激烈辩论。

纳德拉给微软首席技术官凯文·斯科特打了电话,后者对促成OpenAI合作起了至关重要的作用。斯科特已经听说了这个消息,这个消息正在迅速传播。他们与其他微软高管一起进行了视频通话。他们互相询问,阿尔特曼的解职是人工智能产品发布速度与安全之间紧张关系的结果吗?OpenAI和微软以及科技界的其他员工都表达了对人工智能公司鲁莽推进的担忧。甚至OpenAI的首席科学家兼董事会成员伊利亚·萨次凯威也公开谈到了不受约束的人工智能“超级智能”的危险。 2023年3月,在OpenAI发布迄今为止最强大的人工智能GPT-4之后不久,数千人,包括伊隆·马斯克和史蒂夫·沃兹尼亚克在内的人,签署了一封公开信,呼吁暂停训练高级人工智能模型。这封信问道:“我们应该让机器充斥我们的信息渠道宣传谎言吗?”“我们应该冒险失去对我们文明的控制吗?”许多硅谷观察家将这封信视为对OpenAI和微软的指责。

到一定程度,凯文·斯科特尊重他们的担忧。他认为,人工智能的讨论奇怪地集中在科幻情节上,即计算机毁灭人类,而在很大程度上忽略了这项技术在“平衡玩法”方面的潜力,正如斯科特所说,对于那些知道想让计算机做什么但缺乏培训的人来说。他认为,人工智能凭借与用户用简单语言对话的能力,可以成为一种变革性的、充满平等精神的力量,前提是它建立在足够谨慎的基础上,并以足够的耐心引入。

斯科特和他在OpenAI的合作伙伴决定缓慢但持续地发布人工智能产品,以一种公开实验的方式吸纳大量非专业人员成为实验对象和科学家:微软将观察未受过培训的用户如何与这项技术互动,用户将了解其优缺点。通过发布公认有缺陷的人工智能软件并向客户征求坦率的反馈,微软找到了一种改进技术和培养用户怀疑主义务实主义的公式。斯科特认为,管理人工智能的危险的最好方法是与尽可能多的人尽可能透明,并让这项技术逐渐渗透我们的生活,从平庸的用途开始。有什么比通过文字处理器之类不起眼的东西来教会人类使用人工智能更好的方式呢?

斯科特所有精心定位现在都岌岌可危。随着越来越多的人得知阿尔特曼被解雇的消息,OpenAI员工的信念与阿尔特曼和OpenAI的使命紧密相连,几乎达到了狂热的程度,他们开始在网上表达不满。这家初创公司任命首席技术官米拉·穆拉蒂为代理首席执行官,而她并不热衷于接受这一角色。不久,OpenAI总裁格雷格·布罗克曼在推特上写道:“我辞职了。”其他OpenAI员工开始威胁要辞职。

在与纳德拉的视频通话中,微软高管开始概述对阿尔特曼被解职的可能回应。计划A是试图通过支持穆拉蒂稳定局势,然后与她合作,看看这家初创公司的董事会是否会撤销其决定,或者至少解释其鲁莽举动。

如果董事会拒绝这样做,微软高管将转向计划B:利用他们公司的相当大的影响力,包括他们已承诺但尚未向OpenAI提供的数十亿美元,帮助让阿尔特曼重新任命为CEO,并通过更换董事会成员重组OpenAI的治理结构。一位接近这次谈话的人对我说:“从我们的角度来看,事情进行得很好,OpenAI的董事会做了一些反复无常的事情,所以我们认为‘让一些成年人掌控情况,恢复我们所拥有的一切’。”

计划C是聘请阿尔特曼及其最有天赋的同事,实际上在微软内重建OpenAI。然后这家软件巨头将拥有任何新出现的技术,这意味着它可以将这些技术出售给其他人,这可能会带来很大的收益。

视频通话中的集团认为所有三个选项都很强大。“我们只是想恢复正常,”内部人士告诉我。这一策略背后的信念是,微软已经弄清楚了开发负责任人工智能所需的方法、保障措施和框架的一些重要内容。无论阿尔特曼发生什么,公司都将继续其将人工智能引入公众视野的蓝图。

凯文·斯科特相信人工智能可以改变世界的信心植根于科技如何彻底重塑了他自己的生活。他在弗吉尼亚州的格拉迪斯长大,那里距离李将军向格兰特投降的地方不远。他的家人中没有人上过大学,医疗保险几乎是一个陌生的概念。小时候,斯科特有时依靠邻居提供食物。他的父亲是一名越南老兵,曾经经营加油站、便利店、卡车公司和各种建筑企业,但都以失败告终,两次宣告破产。

斯科特想要不同的生活。他的父母按月分期购买了一套百科全书,斯科特就像一个文字处理模型先驱似的从A到Z阅读。为了娱乐,他拆开了吐司机和搅拌机。他存够了钱买得起Radio Shack最便宜的电脑,通过查阅图书馆的书籍学习编程。

1972年斯科特出生前的几十年里,格拉迪斯周围地区拥有家具和纺织厂。到他的青春期,大部分制造业已向海外转移。科技——供应链自动化、电信技术的进步显然应该承担责任,因为它使得在海外生产更容易,那里的开支更低。但即使是十几岁的斯科特也感觉科技不是真正的罪魁祸首。“这个国家一直在给自己灌输这些关于离岸生产不可避免的故事,”他9月对我说。“我们本可以给自己讲述关于社会和政治后果的故事,失去制造业对社区的重要性。但这些从未得到证实。”

在林奇堡学院(一所与基督教门徒派有联系的本地学校)学习后,斯科特在韦克福雷斯特大学获得了计算机科学硕士学位,并于1998年在弗吉尼亚大学开始攻读博士学位。他对人工智能着迷,但他了解到许多计算机科学家认为它与星相学等价。各种早期尝试创建人工智能的做法都已失败,这一领域注定是徒劳无功的想法已经在学术部门和软件公司深深扎根。许多顶尖思想家已经放弃了这门学科。在21世纪初,一些学者试图通过重新将其品牌定为“深度学习”来复兴人工智能研究。怀疑依然存在:在2007年的一次人工智能会议上,一些计算机科学家制作了一个恶搞视频,暗示深度学习群体由类似山达基教徒的邪教分子组成。

然而,在斯科特攻读博士学位时,他注意到他遇到的一些最优秀的工程师强调“短期悲观主义”和“长期乐观主义”的重要性。“这几乎是一种必要性,”斯科特说。“你会看到世界上所有坏掉的东西,你的工作就是试图修复它。”即使工程师认为他们尝试的大多数事情都不会奏效——有些尝试可能会使事情变得更糟——他们“也必须相信,他们可以一点一点解决这个问题,直到最终事情会变得更好”。

2003年,斯科特从博士项目中休学,加入谷歌,在那里他监督移动广告的工程工作。几年后,他辞职,在一家移动广告创业公司AdMob担任工程和运营主管,后来被谷歌以7.5亿美元的价格收购。之后他加入领英,在那里获得了一个令人异常擅长以鼓舞人心又现实的方式来表达雄心勃勃项目的声誉。在与一个团队的首次会议上,他宣称“这个地方的运营简直一团糟”,但让每个人都觉得最终他们会拥有一匹黑马般流畅的东西。“我们都爱上了他,”他的一位员工告诉我。 2016年,领英被微软收购。

到那时,斯科特已经非常富有,但在科技圈内几乎无人知晓。作为一个避开人群的人,他很满意这种无名状态。他计划在微软收购完成后离开领英,但2014年成为微软CEO的萨蒂亚·纳德拉敦促他三思。纳德拉与斯科特一样对人工智能好奇,由于更快的微处理器,这一领域的最新进展使其更具声望:Facebook开发了复杂的人脸识别系统;谷歌建立了巧妙的语言翻译人工智能。纳德拉不久将宣布,在微软,人工智能“将塑造我们未来所有工作”。

斯科特并不确定他和纳德拉有相同的雄心。他给纳德拉写了一份备忘录,解释说,如果他留下来,他想把自己的工作日程表的一部分用于促进科技行业通常忽视的人。对于数亿人来说,他告诉我,计算机革命的全部利益在很大程度上是“无缘,除非你知道如何编程,或者你为大公司工作”。斯科特想让人工智能赋予他成长过程中遇到的那种富有创造力但数字上不起眼的人们权力。这是一个引人注目的论点——一些技术人员会认为它故意天真,鉴于人们普遍担心人工智能辅助的自动化消除诸如杂货店收银员、工厂工人或临时演员等工作。

然而,斯科特相信一个更乐观的故事。他曾告诉我,大约70%的美国人从事农业劳动。技术进步减少了这方面的劳动力需求,如今只有1.2%的劳动力在务农。但这并不意味着有成千上万失业的农民:许多这样的人成为卡车司机,或重返校园成为会计,或找到其他道路。“与之前的任何技术革命相比,人工智能可能更有助于振兴美国梦,”斯科特写道。他认为,在弗吉尼亚州经营一家疗养院的一位儿时朋友可以利用人工智能来处理她与医疗补助和医疗补助的互动,从而让该机构专注于日常护理。另一位在主题公园为精密塑料零件制作车间工作的朋友可以利用人工智能帮助他制造组件。斯科特告诉我,人工智能可以通过将“你死我活的权衡转变为双赢的进步”来使社会变得更好。

纳德拉看了这份备忘录,正如斯科特所说的那样,“他说‘听起来不错’。”一周后,斯科特被任命为微软首席技术官。

如果斯科特希望微软领导人工智能革命,他必须帮助公司超越谷歌,谷歌通过向任何取得哪怕很小突破的人提供数百万美元,囤积了该领域大部分人才。在过去的二十年里,微软试图通过投入数十亿美元用于内部人工智能项目来与谷歌竞争,但几乎没有任何成就。高管们开始认为,像微软这样庞大而笨拙的公司,拥有20多万名员工和浩瀚的官僚机构层次结构,不适合人工智能发展所需的敏捷性和动力。“有时候小一点更好,”斯科特告诉我。

所以他开始研究各种创业公司,其中一家引人注目:OpenAI。它的使命声明誓言确保“人工通用智能(AGI)——我们的意思是那些在大多数具有经济价值的工作中优于人类的高度自主系统——惠及全人类”。微软和OpenAI已经有了合作关系:这家创业公司使用了微软的云计算平台Azure。2018年3月,斯科特安排与这家总部位于旧金山的创业公司的一些员工会面。他很高兴地会见了几十名年轻人,他们拒绝了大科技公司提供的数百万美元,以便为一家承诺其创造不会“伤害人类或过度集中权力”的组织工作18小时。首席科学家伊利亚·萨次凯威特别关注为可能解决大多数人类问题的高度复杂人工智能的出现做准备——或引发大规模破坏和绝望。与此同时,阿尔特曼是一位有魅力的企业家,决心使人工智能有用且有利可图。斯科特感觉这家初创公司的精神很理想。OpenAI致力于“把能量引向产生最大影响的事情”,他告诉我。 “他们有一种真正的文化,那就是‘这就是我们正在努力实现的事情,这些是我们正在尝试解决的问题,一旦我们弄清楚有效的方法,我们将加倍努力。’ 他们有一种对未来的理论。”

OpenAI已经取得了引人注目的成果:其研究人员已经创建了一个机器手,即使在面对以前没有遇到的挑战时,比如将部分手指捆绑在一起,也能解决魔方。但是,最让斯科特兴奋的是,在后续的一次会议上,OpenAI的领导人告诉他,他们已经放弃了机器人手,因为它不是很有前景。 “最聪明的人有时候是最难管理的,因为他们有成千上万的妙想,”斯科特说。 但OpenAI的员工持之以恒地专注。 就强度而言,OpenAI介于快乐人与克里希纳教之间,员工对自己的工作几乎疯狂。 在7月首次与萨次凯威见面后不久,他告诉我,人工智能将“颠覆人类生活的每一个领域”,这很可能会使医疗保健等事物“比现在好上一百万倍”。 这种自信让一些潜在投资者望而却步; 斯科特发现这很有吸引力。

OpenAI首席技术官米拉·穆拉蒂认为自己既是乐观主义者也是现实主义者。 她说:“有时候人们误解乐观主义是无忧无虑的理想主义。 但这必须经过深思熟虑,并设定许多警戒线,否则你就在承担巨大风险。”

这种乐观与当时弥漫在微软的阴郁气氛形成鲜明对比,就像一位前高级主管告诉我的那样,“每个人都认为人工智能是数据游戏,谷歌拥有的 数据要多得多,我们处于永远无法跟上的巨大劣势。” 这位高管补充说:“在凯文说服我们玩这个游戏还有其他方法之前,我记得感到绝望。” 微软和OpenAI之间的文化差异使他们成为奇怪的合作伙伴。 但对于斯科特和阿尔特曼来说——后者在成为OpenAI首席执行官之前领导了创业加速器Y Combinator——合作是完全有道理的。

自OpenAI成立以来,随着其雄心壮志的增长,该组织所需的计算能力以及开支暴涨。 它需要一个具有巨大财力的合作伙伴。 为了吸引这种支持,OpenAI推出了其营利部门,允许合作伙伴持有创业公司的股权并收回投资。 但它的公司结构仍然不寻常:营利部门由非营利部门的董事会管理,后者由教授、非营利组织领导人和企业家组成,其中一些人在技术行业几乎没有任何成就。 大多数非营利董事会成员在这家创业公司没有任何经济利益,公司章程指示他们管理公司,“让非营利机构而不是OpenAI投资者成为首要受益人”。 董事会成员有权解雇OpenAI的首席执行官,并且如果他们觉得这家初创公司的发现给社会带来了不当风险,他们本质上可以锁定技术并扔掉钥匙。

纳德拉、斯科特和微软的其他人都愿意容忍这些古怪之处,因为他们相信,如果他们能够用OpenAI的技术加强其产品,并利用这家初创公司的人才和雄心壮志,他们在人工智能领域将具有巨大优势。 2019年,微软同意投资10亿美元到OpenAI。 自那时起,这家计算机巨头实际上获得了OpenAI营利部门49%的股份,以及将OpenAI过去和未来的发明商业化的权利,用于Word、Excel、Outlook等产品的更新版本中,包括Skype和Xbox游戏机,以及它可能想出的任何新东西。

纳德拉和斯科特对这笔投资的信心来自他们与阿尔特曼、萨次凯威和OpenAI首席技术官米拉·穆拉蒂建立的联系。斯科特特别重视与穆拉蒂的联系。和他一样,她成长在贫困之中。 1988年出生于阿尔巴尼亚,她经历了专制政权的余波、黑手党式资本主义的兴起和内战的爆发。 她通过参加数学比赛来处理这场动荡。 一位老师曾告诉她,只要穆拉蒂愿意在炮弹弹坑周围绕道去上学,老师也会这样做。

16岁时,穆拉蒂赢得了加拿大一所私立学校的奖学金,在那里她表现优异。 “我的童年充满了警报声、枪击声和其他可怕的事情,”今年夏天她告诉我。 “但仍有生日、暗恋和作业。 这教会你一种坚韧——相信如果你坚持努力,事情就会好转。”

穆拉蒂在达特茅斯学院学习机械工程,加入了一个研究小组,该小组正在建造一辆由超级电容器供电的赛车,超级电容器能够产生巨大的爆发能量。 其他研究人员将超级电容器视为不切实际; 还有其他人追求更深奥的技术。 穆拉蒂觉得两种立场都太极端了。 这样的人永远也到不了她学校的弹坑。 你必须是乐观主义者和现实主义者,她告诉我:“有时候人们误解乐观主义是无忧无虑的理想主义。 但它必须经过深思熟虑,并设定许多警戒线,否则你就在冒巨大的风险。”

本文译自 The New Yorker,由 BALI 编辑发布。

(免责声明:本网站内容主要来自原创、合作伙伴供稿和第三方自媒体作者投稿,凡在本网站出现的信息,均仅供参考。本网站将尽力确保所提供信息的准确性及可靠性,但不保证有关资料的准确性及可靠性,读者在使用前请进一步核实,并对任何自主决定的行为负责。本网站对有关资料所引致的错误、不确或遗漏,概不负任何法律责任。
任何单位或个人认为本网站中的网页或链接内容可能涉嫌侵犯其知识产权或存在不实内容时,应及时向本网站提出书面权利通知或不实情况说明,并提供身份证明、权属证明及详细侵权或不实情况证明。本网站在收到上述法律文件后,将会依法尽快联系相关文章源头核实,沟通删除相关内容或断开相关链接。 )

赞助商
2023-12-03
微软与OpenAI合作的内幕
这两家公司已经磨合出了一个雄心勃勃但安全地发布人工智能的方案。然后OpenAI的董事会炸掉了他们精心制定的所有计划。

长按扫码 阅读全文