DeepInfra 成为 Hugging Face 官方推理供应商

我们很高兴地分享，DeepInfra 现已成为 Hugging Face Hub 上支持的 Inference Provider！

DeepInfra 加入了我们不断增长的生态系统，增强了 Hub 模型页面上无服务器推理的广度和能力。Inference Provider 也被无缝集成到我们的客户端 SDK 中（包括 JS 和 Python），使得使用各种模型搭配首选提供者变得极其容易。

DeepInfra 是一个无服务器 AI 推理平台，提供业界最具成本效益的 token 定价。拥有超过 100 个模型的目录，DeepInfra 让开发者能够轻松地将各种 AI 能力集成到他们的应用中，仅需最少的设置。

DeepInfra 支持广泛的模型类型——从 LLM 到文生图、文生视频、嵌入向量等。作为此次初期集成的一部分，DeepInfra 在 Hugging Face 上启动了对话和文本生成任务的支持，使得能够访问热门的开权重 LLM，比如 DeepSeek V4、Kimi-K2.6、GLM-5.1，以及更多其他模型。对额外任务的支持（文生图、文生视频、嵌入向量等）将很快推出！

如需了解更多关于如何使用 DeepInfra 作为 Inference Provider 的信息，请查阅其专用文档页面。

查看 DeepInfra 支持的完整模型列表。

在 Hugging Face 上关注 DeepInfra：https://huggingface.co/DeepInfra。

用户账户设置

在你的用户账户设置中，你能够：

设置你已注册提供者的自有 API 密钥。如果未设置自定义密钥，你的请求将通过 HF 进行路由。

按偏好对提供者进行排序。这适用于模型页面中的小部件和代码片段。

调用模式

如上所述，调用 Inference Provider 时有两种模式：

自定义密钥（请求直接发送到推理提供者，使用对应推理提供者的自有 API 密钥）

由 HF 路由（在这种情况下，你不需要来自提供者的 token，费用直接从你的 HF 账户而非提供者账户中扣除）

模型页面展示第三方推理提供者（与当前模型兼容的提供者，按用户偏好排序）

SDK 集成

DeepInfra 通过 Hugging Face SDK 提供——Python 版本为 huggingface_hub（>= 1.11.2），JavaScript 版本为 @huggingface/inference。

以下示例展示了如何通过 DeepInfra 使用 DeepSeek V4 Pro。使用 Hugging Face token 进行身份验证——请求将自动路由到 DeepInfra。

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://router.huggingface.co/v1",
    api_key=os.environ["HF_TOKEN"],
)

completion = client.chat.completions.create(
    model="deepseek-ai/DeepSeek-V4-Pro:deepinfra",
    messages=[
        {
            "role": "user",
            "content": "Write a Python function that returns the nth Fibonacci number using memoization."
        }
    ],
)

print(completion.choices[0].message)

import { OpenAI } from "openai";

const client = new OpenAI({
    baseURL: "https://router.huggingface.co/v1",
    apiKey: process.env.HF_TOKEN,
});

const chatCompletion = await client.chat.completions.create({
    model: "deepseek-ai/DeepSeek-V4-Pro:deepinfra",
    messages: [
        {
            role: "user",
            content: "Write a Python function that returns the nth Fibonacci number using memoization.",
        },
    ],
});

console.log(chatCompletion.choices[0].message);

Agent Harness 集成

Hugging Face Inference Provider 已集成到大多数 Agent Harness 中——包括 Pi、OpenCode、Hermes Agents、OpenClaw 等。这意味着你可以直接将 DeepInfra 托管的模型插入到你喜爱的工具中，无需任何额外的粘合代码。浏览完整的集成列表。

计费信息

对于直接请求，即当你使用推理提供者的密钥时，你将由相应的提供者进行计费。例如，如果你使用 DeepInfra API 密钥，你将在 DeepInfra 账户上被计费。

对于由 HF 路由的请求，即当你通过 Hugging Face Hub 进行身份验证时，你仅需支付标准提供者的 API 费率。我们不收取任何额外费用；我们只是直接传递提供者费用。（将来，我们可能与提供者伙伴建立收益分享协议。）

重要提示 ‼️ PRO 用户每月获得价值 2 美元的推理积分。你可以跨提供者使用。🔥

订阅 Hugging Face PRO 计划以获得推理积分、ZeroGPU、Spaces 开发模式、20 倍更高的限制等。

我们也为已登录的免费用户提供免费推理，但如果你能的话，请升级到 PRO！

反馈和后续步骤

我们非常希望获得你的反馈！请在这里分享你的想法和/或评论：https://huggingface.co/spaces/huggingface/HuggingDiscussions/discussions/49