OpenAI 与 AWS 合作,开发者现可在 AWS 生态中直接调用 OpenAI 模型,打破生态分割。
如我昨天提到的,今天的 Stratechery 采访在时间上有些提前——周二而不是周四——同时又有些延迟——美东时间下午 1 点而不是早上 6 点——因为这个话题被禁发。这个禁发期在过去几天里给我造成了一个有点奇怪的局面:
上周五,我采访了 OpenAI CEO Sam Altman 和 AWS CEO Matt Garman,讨论了由 OpenAI 驱动的 Bedrock Managed Agents;自然地,我的一个问题是这如何与 OpenAI 与微软的协议相适配,该协议给了 Azure 对 OpenAI 模型的独家访问权。
周日晚上,我从小道消息听到微软会在周一早上宣布什么东西;我想知道这是否可能是先发制人的诉讼!
周一,微软和 OpenAI 宣布他们修改了协议,允许 OpenAI 在其他云提供商上提供产品,包括 AWS。
我认为微软-OpenAI 协议对双方都很有意义。以下是微软文章中新安排的要点:
微软仍然是 OpenAI 的主要云合作伙伴,OpenAI 产品将首先在 Azure 上发布,除非微软无法并选择不支持必要的功能。OpenAI 现在可以跨任何云提供商向客户提供所有产品。
微软将继续拥有到 2032 年的 OpenAI 知识产权(模型和产品)许可证。微软的许可证现在将是非排他性的。
微软将不再向 OpenAI 支付收入分成。
OpenAI 向微软的收入分成支付将继续到 2030 年,与 OpenAI 的技术进展无关,比例相同但受总上限约束。
微软作为主要股东继续直接参与 OpenAI 的增长。
我认为最重要的一点是最后这一点。Azure 由于是唯一能够提供 OpenAI 模型的超大规模云提供商,确实拥有真正的竞争优势,但这同时也对 OpenAI 造成了阻碍,特别是当众多企业首先关心的是在他们当前选择的云上访问模型时。我已经注意到这一段时间以来,这对 Anthropic 来说是真正的竞争优势。换句话说,Azure 的独家协议正在积极损害微软对 OpenAI 的投资,鉴于 Anthropic 在今年的快速增长,微软需要照顾好他们的投资,即使这减弱了 Azure 的差异化。
与此同时,OpenAI 显然将 AWS 视为一个巨大的机会——以至于他们愿意在未来几年放弃与 Azure 相关的收入(这根据前面的观点,会帮助 Azure 管理层在失去独家协议时感到好受一些;他们的损益表在不向 OpenAI 支付收入分成的情况下看起来会好得多)。OpenAI 也在从 AGI 条款中释放微软;现在两家公司之间的协议无论如何都将运行到 2032 年。
似乎明确的是,OpenAI 的重点将放在 AWS 上,在这方面最有力的证据就是这次采访的主题:由 OpenAI 驱动的 Bedrock Managed Agents。最容易理解这个产品的方式是把它看作 AWS 中的 Codex;使 Codex 工作的许多因素在于它是本地的,这在安全方面给你带来很多复杂性,基本上是免费的。弄清楚如何让 AI 智能体在整个组织中工作是完全另一回事,这个产品的目标是为已经在 AWS 中存储了大部分数据的组织使这些工作流程变得更加容易。
为此,在这次采访中,我们讨论了 AWS 如何创建了整个云计算类别,以及它对初创公司的影响,以及 AI 与之前的范式转变既相似又不同的地方。然后我们讨论了 Bedrock Managed Agents,它是什么,以及它与亚马逊现有的 AgentCore 产品有何不同。我们还涉及了 Trainium,以及为什么芯片对大多数 AI 用户来说不重要,以及为什么相对于谷歌对完全集成的关注,合作伙伴关系是有意义的。
提醒一下,所有 Stratechery 内容,包括采访,都可以作为播客获取;点击这封邮件顶部的链接将 Stratechery 添加到你的播客播放器。
这次采访经过了轻微编辑以保证清晰度。
Matt Garman 和 Sam Altman——好的,Matt,欢迎来到 Stratechery——Sam,欢迎回来[我之前在 2025 年 10 月、2025 年 3 月和 2023 年 2 月采访过 Altman]。
Sam Altman:谢谢。
Matt Garman:谢谢,感谢有我。
那么,Matt,这是你第一次在 Stratechery 上。可惜的是,我认为 Sam 的出现会妨碍通常的认识环节。此外,他不想听我们回忆我们在凯洛格商学院的时光,但很高兴有一位校友在播客上。
MG:是的,很高兴在这里。我以后会回来,我们可以做一个更深入的研讨。
那太好了。你从实习生时代就在从事 AWS 工作,现在你掌管整个组织,正处于这个 AI 浪潮中。构建 AI 业务的哪些方面与构建最初的商品计算业务相同(缺乏更好的术语),哪些方面真正不同?
MG:我认为相同的部分是我看到那同样的兴奋,以及那些能够做他们从未能够做过的事情的构建者。其中一个很酷的地方是当我们最初启动 AWS 时,开发者突然可以获得仅对拥有数百万美元来建造数据中心的最大公司才可用的基础设施。只需要一张信用卡和几美元,他们就可以启动应用程序,这真正爆发了互联网上人们可以构建的可能性。我们采用了人们可以构建任何想要的东西的理念,我们不会预先假设他们应该做什么,世界上的创造力,如果我们能在他们面前放上强大的工具,他们会构建有趣和令人惊叹的东西。
我认为这在很大程度上,如果不是更多的话,这与它对那里的构建者所能做的事情的启用同样具有变革性。当你思考什么是可能的时,你不必去学校学习 10 年的编码才能去构建一个应用程序,你不必有数百人的巨大团队和数月又数月的时间去构建东西。你可以用小团队构建东西,你可以快速构建,你可以快速迭代,AI 在世界的各个方面都解锁了各种创新。我认为在很多方面这是非常相似的,看到它从客户群中启用的东西真的很令人兴奋。
不过,有一点是,当 AWS 出现时,你是唯一的一个,所以你免费获得所有的优点和缺点以及所有东西。现在感觉是否有一点,在 AWS 时代,有很多关于商品计算,使其可交换、有弹性、便宜——在 AI 中,特别是在训练中,似乎获胜的抽象更多关于这些真正垂直整合的超级集群,非常先进的网络,以及软件和硬件之间的非常紧密的链接。这对你来说是否有点令人惊讶,你现在来看它——而不是新鲜的,"我们是唯一在这里的,我们对大规模计算有一种特定的看法",至少在 AI 的前几年,它可能没有完美地对齐?
MG:我不认为对我们来说是不同的。我认为对我们来说不同的是,仅仅是采用的令人难以置信的快速规模,我认为这可能让每个人都感到惊讶。Sam,如果你不同意可以权衡一下,但仅仅是采用的速度和人们有多快地掌握了那里的功能,我认为已经让每个人都感到惊讶。
如果你去到的是,当我们开始云计算时,我们花了很长时间来解释为什么一个书商会提供你的计算能力,那是很多的解释来解释云计算是什么。有很多人遗忘的艰苦工作,但回到 2006 年,这不是理所当然的,这就是世界计算会如何转向,所以那里有很多艰苦的工作。
你认为你现在必须做一些解释吗,因为很多人正在锚定训练时代,而你就像,"我们在考虑推理时代",那将是一些不同的东西,也许你仍然必须再次使用这些解释能力?
MG:你会的,但人们理解你在说什么有多快是完全不同的。所以我认为是的,我认为如果你从人们说的"这似乎确实很酷,并且我有这个智能聊天机器人可以和我交谈是非常整洁的"的地方移动,去到,"我实际上可以在你的企业中做工作",一直都有一点教育,但它也相对较快,在技术移动的速度范围内。
我保证,我们很快就会谈到今天来这里要介绍的产品。不过 Sam,先从创业生态系统的角度来看:回顾过去,AWS 显然具有变革性,彻底改变了创业门槛,现在任何人都可以开始创业。有了种子轮融资和天使投资人,门槛也在某种程度上后移了——你不必只在 PowerPoint 里展示服务器,可以先构建应用,然后再进行 A 轮融资或其他融资。那么,从你的角度看,与当时 AWS 所促成的变化相比,今天这个世界有哪些不同,又有哪些相同之处?
SA:我认为,大规模赋能初创公司的平台时刻一共有四次:Internet、云、移动互联网,以及 AI。其中第一次发生在我算是成年之后的,是云。在 YC [Combinator] 创立早期,很难夸大这对初创公司意味着多么巨大的变化。以前,初创公司要租用 colo[cation] 托管空间,组装服务器,再把设备放进去。这是一件极其复杂的事情,而且你必须筹集一大笔资金。然后突然之间,云出现了——虽然云是在 YC 创立后不久出现的,我想应该是第二年。
我正想问这个——归根结底,它们之间的关系是不是比你们当时意识到的还要紧密,几乎是相伴而生的?
SA:当时就感觉它们的关系极其紧密。感觉 YC 从一开始就在驾驭云计算这股浪潮,因为 AWS 之前已经出现过一些早期案例。
与过去相比,只要有 AWS,初创公司就不需要投入那么多资金,也能把项目做起来。
SA:这是一次巨大的赋能式变革,也是当时 YC 听起来如此疯狂的部分原因。人们会说:“你不可能只用几万美元资助一家初创公司,这根本不可能,服务器的成本都不止这些。”所以,这彻底改变了初创公司利用少量资本所能做的事情。
当发生重大平台转型,而你能以比过去更快的周期和少得多的资本做事时,初创公司通常就会胜出。这是初创公司击败大公司的经典方式。在我的职业生涯早期,我亲眼见证了这种情况随着云计算的出现而发生。如今,看着各家公司基于 AI 进行构建,整体方向上的感觉其实非常相似,但正如 Matt 所说,它的发展速度快得惊人。
大型在位企业采用 AI 的速度,是不是也比当年采用云计算快得多?
SA:确实更快,但我指的还有初创公司收入增长的速度。我最近在 YC 演讲,最后问了一句:“对于一家优秀的公司,大家现在期望它在 YC 项目结束时达到多少收入?”他们回答:“这个标准几乎每个月都在变化,可能同一期项目开始和结束时,我们给出的答案都会不同。”这种情况过去从未发生过。人们能够在这个新平台上以如此快的速度构建起规模化业务,这是我前所未见的。
基本上所有初创公司过去都会首选你们的云,这在整个时代都给你们带来了巨大优势。Matt,今天为什么大家还会首选你们的云?因为你会看到很多人都在基于 OpenAI API 构建应用;还是说,你们觉得:“其实我们是从一个截然不同的角度进入这个市场的。我们拥有庞大的既有客户群,他们正迫切要求我们提供 AI 相关能力,而对于 Sam 所说的这一整个群体,我们的可见度没那么高”?
MG:我认为这里有几个方面。首先,我们对这次合作非常兴奋,我认为它对许多初创公司会非常有意义。但即使是在今天,如果你去和初创公司交流,也会发现绝大多数正在扩展规模的初创公司仍然选择在 AWS 上扩展,背后有很多原因:AWS 具备相应的规模、可用性、安全性和可靠性;由其他 ISV 组成的合作伙伴生态系统在 AWS 上,客户也在 AWS 上。
(笑)不管愿不愿意,每个人都用过 AWS 控制面板,所以大家已经习惯了。
MG:而且我们会帮助他们。我们花费大量时间支持初创公司,不只是提供抵扣额度,还会建议他们如何搭建系统、如何思考进入市场策略,以及其他很多事情。我认为这些都深受许多初创公司的认可。我们投入大量时间和精力来确保做到这一点,因为我们确实认为初创公司是 AWS 的命脉。从一开始就是如此,正如 Sam 刚才所说,今天依然如此。我每季度仍会去一次硅谷或其他地方,直接与初创公司见面,了解他们正在做什么,确保我们构建的产品真正满足他们的需求。如今,争夺初创公司关注度的竞争确实比 20 年前更加激烈,但这件事对我们的重要性一如既往。我们会投入大量时间,确保满足这些初创公司的需求。
是否可以这样说:与使用 Azure 版本相比,直接基于 OpenAI API 构建产品的公司更有可能采用这样的技术栈——常规计算使用 AWS,AI 则使用 OpenAI?
MG:我认为,这确实是今天许多初创公司非常常见的一种模式。
这就引出了今天的发布:由 OpenAI 提供支持的 Bedrock Managed Agents,我想我应该没说错。按照我的理解,它的卖点并不只是可以在 AWS 中使用 OpenAI 模型——我认为这是不被允许的——而是将 OpenAI 的前沿模型封装进 AWS 原生的智能体运行时,并涵盖身份、权限状态、日志、治理和部署。Sam,这种表述准确吗?
SA:是的,说得相当准确。
谢谢。这到底是什么?现在请用通俗的话解释一下。
SA:我认为,AI 的下一个阶段将不再只是你向智能体提供一些文本,然后得到更多文本;甚至也不再只是提供一堆代码,再得到更多代码。接下来,我们会让这些智能体在公司内部运行,执行各种不同的工作。
“虚拟同事”大概是我听过的各种描述中最不糟糕的一种,但还没有人真正找到描述它们的恰当语言。我们正在共同开发和封装一款新产品,帮助那些想要构建这类有状态智能体的公司,并让这些智能体变得可用。再强调一次,我们还不确定未来人们究竟会如何谈论和使用它们,但如果看看 [Codex] 正在发生的事情,我认为那是一个很好的例子,可以让我们看到这一切可能走向何方。
要让智能体真正发挥作用,模型外围的框架和运行时——包括工具、状态(正如你所说,这是一个对你非常重要的词)、记忆、权限和评测——有多重要?
SA:怎么强调其关键性都不为过。我已经不再把框架和模型视为两个完全可以分离的东西。以我使用这些系统的经验来说,我非常清楚这样一个事实:当我在 Codex 中启动一项任务,而它为我完成了一件惊人的事情时,我并不总是知道应该把多少功劳归于——
究竟是模型很出色,还是框架很出色?
框架在多大程度上是与模型协同开发的?这种集成发生在哪里?是在后训练阶段吗?还是在提示词中?是什么让这种集成得以奏效?
SA:两者都有。它其实不属于预训练流程的一部分,但我认为可以这样看——这里还有一个更有意思的现象:过去我们已经多次看到,原本以为可以清晰分离的东西,会越来越多地融合在一起。比如,我们最初看待工具调用的方式——如今它已经成为我们使用这些模型时至关重要的一部分——当初并没有考虑把它深度集成进训练流程,但随着时间推移,我们在这方面做得越来越多。
我也认为,随着时间推移,模型和框架会进一步融合。同理,我预计预训练和后训练最终也会进一步融合。这么说虽然非常老套,但我还是要说,因为我认为它非常、非常正确:我们仍处于这一整套范式极其早期的阶段。从这个行业真正成熟的程度来看,现在仍然像是 Homebrew Computer Club 的时代。
这就是为什么我认为这件事如此有趣。几周前我写过,在任何价值链中,最终都会出现一个集成点,而那里正是最重要的地方——两个部分必须结合起来,整个系统才能运作。随着时间推移,大量价值显然也会汇聚到那里。因此,我当时的论点是,框架与模型的集成就是这个关键点。这符合你们的利益,但听起来你也同意这一点。
SA: 这确实符合我的利益,我同意,但更广泛地说,你关心的是能够在 Codex 中输入想要发生的事,然后它就会发生。
你不需要关心实现细节。
SA: 我认为你不会在意。在我们摸索这一切的过程中有很多例子,我们必须在系统提示的层面上做一些事情,但后来我们不需要做了。这里的普遍观察是,随着模型变得更聪明,你在让它们按你想要的方式行动时会有更多灵活性——这听起来像是显而易见的说法,但事实上——
告诉 10 岁的孩子做什么比告诉 5 岁的孩子容易。
SA: 当我回头看我们在 GPT-3 时代为了从这些模型中挤出哪怕一点实用性而不得不做的事情,而现在你根本不需要这样做,因为当然模型开箱即用就能理解并做得很好,这个趋势可能会继续进行得更远。
MG: 我正打算补充这一点——我完全同意,我认为当你和有明确想法的客户谈论他们希望这些系统做什么时,在这种我们合作进行的联合协作之前,客户被迫自己整合这些东西,对吧?他们希望这些模型和 AI 智能体能记住它们如何很好地协同工作,并且他们希望集成到他们现有的系统中,这不仅仅是第三方工具,还包括他们自己的工具。他们希望它们能学习他们自己的数据、自己的应用程序和自己的运营环境,而所有这类集成工作目前至少是由每个客户自己完成的。
所以我们一起倾力推进的这种联合协作的一部分是共同构建一种新型产品,它能真正地将这些东西更紧密地结合在一起,这样客户就能更轻松地完成他们想做的事情。其中身份验证已经内置在该产品中,你对数据库的身份验证能力都发生在你的 AWS VPC [虚拟私有云] 内部。如果我们分别在 OpenAI API 和 AWS 这边,你可以做很多这样的事情,但通过一起构建这个东西,我们让客户更容易地在他们的企业环境内更快地获得价值并完成他们想要做的事情。
那么你认为你可以在一个通用框架中构建一个功能性的 AI 智能体,只是困难得多?你们在让它变得更容易?还是说实际上如果你没有把它们绑定在一起,根本就没有一些你能做的事情?
SA: 回到你之前的类比,在 AWS 之前的日子里,如果你愿意站在一个笼子里并购买一堆服务器,想出如何连接它们并雇用自己的网络工程师,你可以做很多事情。然后突然之间,一旦你可以登录 AWS 控制面板并点击"我需要另一个 S3 实例"之类的,你就可以做更多事情,因为激活能量、基础工作所需的工作量变得好得多,所以今天你可以用模型做很多事情。
然而,每当我看到有人使用我们的模型或尝试设置 Matt 所说的一些工作时,我就陷入了两难之地。一方面很高兴他们印象深刻并感觉这是一项神奇的技术,另一方面则为他们为了让任何东西工作而经历的痛苦和折磨而抓狂。这不仅适用于构建这些产品的开发者,甚至在使用 ChatGPT 的人身上也是如此——看到人们在这里和那里复制粘贴东西并尝试拼凑这一复杂的提示集合——我知道这会消失,我对此感到激动。
现在还很早,情况还很糟糕。
只是别拿掉你与 BBEdit 的集成,这是我唯一的要求,这是我最喜欢的 ChatGPT 应用的第一功能。
(笑)谢谢。
SA: A) 这东西现在太难做了,我们认为如果我们能让它容易得多,它会给开发者和企业带来更多价值,但 B) 有很多东西你根本无法可靠地让它工作,我认为通过我们的联合协作,这不仅会是一个关于易用性和不必自己构建自己的数据中心之类的故事,我们还将共同找出很多新的东西来构建,让人们能够构建仅凭大量的痛苦和折磨都无法完成的产品和服务。
我实际上想回到关于待构建东西的那一点。但让我快速回到 Codex——Codex 是一个框架和模型,它在本地运行。为什么现在让 AI 智能体在本地工作更容易?
SA: 实际上,我们开始时是在云端运行,我认为最终你确实希望它在云端运行。
当然。我正在经历这个云端产品的过渡。但你为什么又回到本地了?
SA: 你的整个环境都在那里,你的计算机已经设置好,你的数据在那里,你不必考虑——它就是更容易开始工作,尽管这不是最终状态。但进入一个 AI 智能体确实在云端运行的世界,当你——如果你有一个非常密集的任务,或者你需要关闭计算机或其他什么,你可以把工作转移到云端,我认为这显然会很好。但在短期内我们能够提供的易用性,让使用你的本地环境赢得了优势。
我想到的一种方式是,你有老派的安全模型,就像城堡和护城河那样,而你正在转向一种新的安全模型,即零信任和一切都有适当的权限结构以及身份验证和所有那些细节。对我来说,框定本地运行的一种方式就像你自己强加的城堡和护城河,一切都在那里,我只是假设一切都很好并且容易做。我对此的一个思考方式是,Matt,如果这能引起你的共鸣,告诉我,是要把所有这些部分……