蚂蚁Ling 3.0 Tiny接入Vercel AI Gateway,采用总计79亿、每Token约激活13亿参数的MoE架构,支持256K上下文、32K输出、函数调用与提示缓存。开发者可用统一API接入,并利用用量追踪、重试、故障转移及路由能力。
ANT Group 推出的 Ling 3.0 Tiny 现已登陆 AI Gateway,在太平洋时间 8 月 14 日上午 8:00 前可免费使用。Ling 3.0 Tiny 将接替 Ling 3.0 Flash 的免费名额。
Ling 3.0 Tiny 是一款 MOE 模型,总参数量为 7.9B,每个 token 激活约 1.3B 参数,拥有 256K token 的上下文窗口,最多可输出 32K token。该模型专为高响应速度的 Agent、指令遵循和多轮对话而打造,原生支持 function calling 和 prompt caching。
要使用 Ling 3.0 Tiny,请在 AI SDK 中将 model 设置为 inclusionai/ling-3.0-tiny-free。8 月 14 日起,新模型名称将变更为 inclusionai/ling-3.0-tiny。
1import { streamText } from 'ai';2
3const result = streamText({4 model: 'inclusionai/ling-3.0-tiny-free',5 prompt: 'Summarize this thread and draft a reply.',6});
你可以在模型 playground 中试用 Ling 3.0 Tiny。
要在 coding agent 中使用它,请运行 vercel ai-gateway coding-agents setup,并在 Agent 内选择 inclusionai/ling-3.0-tiny-free。
AI Gateway 提供统一 API,用于调用模型、跟踪用量与成本,以及配置重试、故障转移和性能优化,从而实现高于单一提供商的可用性。它还内置了自定义报告、Zero Data Retention 支持、API key 预算、路由规则等功能。
AI Gateway 完全按照提供商的定价计费,不加价,也不针对推理收取平台费用,包括 Bring Your Own Key(BYOK)请求。