小语言模型崛起：本地推理的高效未来

NVIDIA 最近发布的论文《Small Language Models are the Future of Agentic AI》于 2025 年 6 月推出，立即在 X 平台引发了广泛讨论。

但如果你一直在关注这个领域或关注我们的工作，你就会知道我们早在 2025 年 2 月就已经强调过这一趋势：

👉 为什么企业开始转向小语言模型？

现在这股潮流正在流行，让我们深入分析一下：

NVIDIA 主张 Small Language Models（SLM，<10B 参数）在意图分类、工具使用和结构化响应生成等狭窄、重复性任务上可以媲美或超越更大的模型。它们更高效、部署速度更快，成本也显著更低。

异质架构的优势

NVIDIA 建议不要仅依赖单一的大型 LLM（如 GPT-4），而是采用异质架构：让 SLM 处理日常子任务的繁重工作，有选择性地使用 LLM 处理更广泛的上下文或深层推理。

那正是 Pieces 一直在努力构建的未来，甚至采取了更激进的方向：Nano Language Models（≤100M 参数），可以在本地、设备上运行。

Nano vs LLM？让我们谈谈成本

对于实际应用的比较，Nano 模型展现出显著优势。

团队规模的成本考量

对于团队来说？成本会成倍增加。

采用速度在加快

有些团队在观望。有些团队已经排在最前面。

看起来 Sam 不会是唯一的先行者，更多的团队即将步入 SaaS 的快时尚时代。