DeepSeek 开源推理系统 DeepInfer

DeepSeek 提到降低算力成本和减少能源消耗，这一点引起了我的注意。既然大家这么关注利润率，希望有一天也能看到随之公布的每 token 能耗数据。好奇现在是否已经有人在追踪这个指标？

相比标题里的利润率，更让我关注的是 96% 的输入缓存命中率，因为这个数字表明，反复复用长上下文的 Agent 类工作负载，可能才是这套经济账算得过来的关键。对于面向海外市场销售 AI 产品的团队来说，在比较 API 提供商时，缓存行为和缓存 token 的定价都应该成为实实在在的考量因素，而不能只看每 token 的公开标价。