DeepInfer 本地部署的硬件与服务限制
文章梳理 DeepInfer 的部署条件：官方列出的硬件为 NVIDIA SM100 或华为 Ascend 950，仅支持一个 763B 模型及离线推理，没有 HTTP 服务。RTX 5090 所属的 SM120 不在列出的支持范围内，不能仅凭同属 Blackwell 判断兼容。
完整中文译文
据 dev.to 文章节选，DeepSeek 以 Apache 2.0 开源了生产服务背后的推理引擎 DeepInfer。但这次开放的代码有明确的部署边界：列出的硬件是 NVIDIA SM100 或 Huawei Ascend 950，只支持一个 763B 模型，入口是离线推理脚本。想在 RTX 5090 上直接启动本地聊天服务，不能照着这个预期走。
目前能确认什么
节选转述的 README 列出了 DeepSeek-V4.1-Flash，默认权重为 deepseek-ai/DeepSeek-V4.1-Flash-1017。模型权重约 510 GB，运行时还需要额外内存容纳中间计算数据。
硬件也有区别。B200/GB200 属于 SM100，RTX 5090 则是 SM120。两者虽然都属于 Blackwell，具体计算架构目标仍然不同。
同属 Blackwell，不能作为兼容依据。
目前给出的启动方式是构建后执行 Python 脚本，没有 HTTP server，也没有 OpenAI-compatible endpoint。推理引擎负责生成 token，要接入应用，还需要服务接口和请求调度等配套能力。
我的判断
对做前端 AI 应用的程序员，最直接的影响是：这份开源代码不能直接当成可配置到 SDK 里的模型服务。
如果目标是本地调用 API，节选提到的 vLLM、SGLang 更接近这个需求；但是否适配手头显卡、能否容纳目标权重，仍要分别核对。列出替代工具，不等于 RTX 5090 就能运行这个模型。
性能结论也要留白。节选没有提供与 vLLM 等引擎在相同硬件上的对照数据，无法据此判断迁移收益。社区已有面向旧硬件的非官方移植线索，作者明确表示没有测试，也不能拿它证明 RTX 5090 可用。
现阶段更适合把 DeepInfer 当作生产推理工程的研究材料。 SM120 的实际兼容情况、完整服务能力和性能优势，还需要原文之外的官方文档与可复现实测确认。