Embedding 和 Chat 共用同一 API 密钥的工程实践

你在构建语义搜索。或者 RAG。或者推荐系统。你已经有一个用于聊天的 LLM 提供商。现在你需要一个嵌入模型——这意味着又一个服务商账号、又一个 API key、又一个 SDK、又一个计费面板、又一个泄露后要轮换的东西。

这是每个向量项目在写一行检索代码之前都要支付的隐性成本。

解决方案：停止拆分技术栈

嵌入模型不必是独立的服务商。它们只是你已有的聊天接口背后同一个 OpenAI 兼容端点的另一个模型而已：

from openai import OpenAI

client = OpenAI(
    base_url="https://aibridge-api.com/v1",
    api_key="mb-your-key",
)

# Embed your documents...
embed = client.embeddings.create(
    model="qwen-plus",
    input=["Your product ships in 3 days."],
).data[0].embedding

# ...then chat about them, same key, same client.
answer = client.chat.completions.create(
    model="deepseek-chat",
    messages=[{"role": "user", "content": "When does my order arrive?"}],
)

聊天和嵌入，同一个 key，同一个 SDK，同一个余额。不需要第二次接入流程。

为什么这比看起来更重要

更少的暴露面。每个额外的服务商都多一个需要轮换的 key、多一个需要监控的故障、多一份需要阅读的服务条款。把聊天和嵌入合并，能让这些减半。

统一的计费视图。两个模型的 token 消耗会出现在同一个仪表板上，所以"RAG 是否在吃掉我的预算？"只需一眼就能看清，而不需要跨服务商对账。

嵌入模型可以同样轻松地切换。今天用 qwen-plus，明天换成别的——改一个字符串，走同一条你已经在聊天中信任的代码路径。

rest of the stack, same key

500K 免费 token/月——足够在付费之前构建和测试一个真正的语义搜索 demo

Top-ups at $2.99 per 1M raw tokens, 1:1, no expiry

15+ chat models for the generation side of your RAG pipeline

Streaming on every chat model, for snappy answer UIs

核心原则

Vendor sprawl is a tax you pay per-feature. Embeddings, chat, and whatever comes next are all just models — and models shouldn't each demand their own account.

一个端点，万能模型

15+ models, chat and embeddings, one OpenAI-compatible endpoint. 🧩