GPT-6 Sol和GPT-6 Luna已在Amazon Bedrock全面上线,作为GPT-6 Astra的补充。开发者可通过AWS直接调用,匹配不同 workload的智能与效率需求。
GPT-6 Sol 与 GPT-6 Luna 现已在 Amazon Bedrock 正式上线,为您提供更多选择来为每个工作负载匹配智能水平与效率。
规模化 AI 的价值取决于两个维度:模型能做什么,以及您能多频繁地使用它。更高的智能水平拓展了模型能处理的复杂度,从微妙的编码问题到跨工具的多步骤流程。效率则决定了这种智能能在多大程度上支持日常活动和可重复任务,因为每个额外的 token、每次重试、每一秒延迟都会在请求中被放大。
GPT-6 Astra 确立了 GPT-6 系列的上限,适用于最具挑战性的项目——在这些场景中,获得最高质量的结果比成本更重要。各类组织也需要先进的智能来处理那些维持产品和运营运转的 recurring 任务。GPT-6 Sol 将强大的推理和编码能力带到每周都在执行的复杂任务中,其经济学特性适合常规使用。GPT-6 Luna 使高容量的专注型、可重复任务变得实用——在这样的规模下,延迟和成本的微小差异会随着请求量不断放大。
如今,来自 OpenAI 的 GPT-6 Sol 与 GPT-6 Luna 均已在 Amazon Bedrock 上正式可用,运行在一个为高性能、安全性和规模化可靠性而构建的推理引擎上。这两款模型的 API 定价均显著低于其 GPT-5.6 前代产品,让您有更多方式将 GPT-6 智能引入生产环境,同时满足工作负载所需的性能、控制力和灵活性。
每天解决更难的问题
GPT-6 Sol 专为开发和运营过程中反复出现的 demanding 任务而设计。它可以实现功能、调试问题、重构和审查代码、分析数据,并跨工具和应用程序完成多步骤流程。在编码和计算机使用方面相较 GPT-5.6 Sol 的改进,帮助它将任务从调查贯穿到实现和验证,同时保留其决策背后的上下文。
随着 GPT-6 Sol 承担更多这样的流程,开发人员需要看到它改变了什么、验证了什么,以及什么是它无法确认的。在一项内部事实性评估中,OpenAI 发现 GPT-6 Sol 的事实性错误约为 GPT-5.6 Sol 的一半。GPT-6 Sol 还受益于对其工作和结果更清晰的沟通,帮助团队更快识别差距,并理解在哪些地方仍需要人工判断。
更强的执行能力与更清晰的报告相结合,使 GPT-6 Sol 在整个开发周期中都变得实用。相关的衡量标准是达到可用结果的总成本,包括输出质量、token 使用量、重试次数和延迟。
让专注型智能在规模化下经济可行
当一个任务每天运行数千次时,每次调用的经济学特性决定了工作流是否能规模化。单独的分类或摘要本身成本不高,但跨完整文档流水线的提取、路由和后续跟进成本会随着每个额外请求而累积。
GPT-6 Luna 专为这种规模化重要的 workloads 而设计。您可以用它从大型文档集合中提取信息、摘要 incoming 材料、对输入进行分类,以及跨众多用户或应用程序回答专注型问题。
规模化下的效率也需要一致的输出。OpenAI 的评估显示 GPT-6 Luna 在事实可靠性和结果沟通清晰度方面都有改进。您还可以根据每个任务所需的质量、响应速度和成本来调整每次请求的推理工作量。
在不重建上下文的情况下为每个步骤匹配智能
单个应用程序在请求推进过程中可能需要不同级别的智能。您可能使用 GPT-6 Luna 对 incoming 请求进行分类,使用 GPT-6 Sol 调查复杂案例,并在额外推理深度能实质性改变决策时使用 GPT-6 Astra。这样可以将智能集中在它创造最大价值的地方,同时管理整个系统的延迟和成本。
在每个阶段内,对同一模型的重复调用可以复用 instructions、工具定义、策略和参考材料。重新处理这些上下文会侵蚀因选择合适模型而获得的效率。
GPT-6 Sol 与 GPT-6 Luna 在 Amazon Bedrock 上支持显式 prompt 缓存。您可以将 prompt 内容标记为复用,允许后续请求将处理集中在新输入上。这对于复用仓库指令的编码助手、基于相同策略 grounding 的支持应用程序,以及应用一致提取 schema 的文档流程都很有用。
以性能和控制力规模化运行 GPT-6
随着 AI 使用量的增长,模型质量只是决定应用程序在生产环境中是否成功的部分因素。团队还需要能随着需求变化维持性能的基础设施、在重复请求中保持稳定的经济学特性,以及保护敏感数据的控制力。Amazon Bedrock 为 GPT-6 Sol 与 GPT-6 Luna 提供这一基础,通过一个为规模化安全性和可靠性而构建的高性能推理引擎。
您可以通过 AWS Identity and Access Management(IAM)策略治理模型访问,并通过 AWS CloudTrail 审计每次调用。由 AWS PrivateLink 驱动的虚拟私有云(VPC)端点有助于将流量保持在您的网络边界内。推理运行在硬件隔离的基础设施上,零运维人员访问权限,因此即使是 AWS 运维人员也无法在推理过程中访问您的 prompt 或 completions。
您的推理数据不会用于模型训练,使用 GPT-6 Sol 与 GPT-6 Luna 不要求您选择与 OpenAI 共享您的数据。对于自动化滥用检测,被分类器标记的流量由 AWS 保留最多 30 天,并以编程方式处理。您可以通过 AWS 账户团队申请零数据保留。详见数据保留。
您可以通过 Amazon Bedrock 控制台或通过支持的 Amazon Bedrock API 以编程方式开始使用 GPT-6 Sol 与 GPT-6 Luna。有关支持的 AWS 区域、端点、API、功能、推理配置文件和定价的信息,请参阅 Amazon Bedrock 文档。
想了解 Amazon Bedrock 如何支持您的团队?与我们联系以开始对话。