TypeSafe AI发布Jev模型,输入$0.042/M tokens,输出token免费,专门回答结构化问题并返回概率而非文本,适合需要确定性决策的系统。
ChatGPT 在 2022 年的横空出世教会了 AI 如何与人对话。如今当初参与打造 ChatGPT 的一位核心成员押注:下一个里程碑属于 AI 与软件对话的场景。TypeSafe AI 正式发布 Jev。Jev 基于 Transformer 架构,但它并非大语言模型。Jev 不生成文本——你向它发送一个状态(state)和带有类型的问题,它返回的是带概率的、代码可直接分支判断的决策。
能否部署?可以作为托管 API 访问,已开启早鸟等待队列。TypeSafe 尚未公布权重、参数规模或自托管选项。
这个名字借用了 Daniel Kahneman 对「快思考」与「慢思考」的划分。TypeSafe 团队认为,经过 RLHF 微调以适配人类偏好的模型——催生了对话,却也带来了过度自信和模型降级(mode dropping)等问题。这些缺陷使得系统始终无法绕过人类介入。
Jev 采用了一套全新技术栈:新架构、并行采样器,以及用于校准决策的强化学习(RLCD)。TypeSafe 未披露具体架构细节。
一个端点处理所有请求:POST https://api.typesafe.ai/v1/systemone。请求体携带 state、model,以及一个 questions 映射。文档定义了 3 种问题类型。
| Primitive | Ask | Returns |
|---|---|---|
| Choice | 从列表中选 1 个选项 | choice、probabilities、confidence |
| Score | 在有序级别上评分 | score、probabilities、confidence |
| Noul | 这个陈述是否正确? | noul,0 到 1 之间的概率值 |
所有问题针对同一 state 并行、独立运行。TypeSafe 表示,增加问题几乎不影响响应时间。Choice 最多支持 255 个选项。
from typesafe_sdk import Choice, Noul, TypeSafeClient
client = TypeSafeClient() # reads TYPESAFE_API_KEY
r = client.system_one(
state=ticket,
questions={
"department": Choice(
instructions="Which team should handle this",
criteria={"billing": "Payment issues", "technical": "Bugs"},
),
"is_urgent": Noul(instructions="The message conveys urgency"),
},
)
print(r.answers["department"].choice, r.answers["is_urgent"].noul)
安装方式:pip install typesafe-sdk(Python 3.10 及以上)。JavaScript SDK 以 @typesafe-ai/sdk 发布。快速入门还覆盖了 cURL 以及面向 Claude Code 的 agent skill。
每个 Choice 和 Score 回答都携带一个 0 到 1 之间的置信度值。TypeSafe 通过概率分布的形态推导得出。在文档示例中,billing 以 0.84 胜出,但置信度仅为 0.596,因为 technical 仍保有 0.159 的概率。
文档给出了 3 条路径:高置信度直接执行;中间地带送人工复核;低置信度转交人类处理。阈值应随错误行动的成本动态调整。
Jev 输入 token 定价为每 10 亿 token 42 美元。TypeSafe 列举的现有 LLM 定价区间为每 100 万输入 token 0.20 到 10 美元。在其录制的演示中,Jev 完成一次调用耗时 0.114 秒,花费 0.000081 美元。GPT-5.6 Terra 耗时 8.566 秒,花费 0.013880 美元。
TypeSafe 团队宣称 Jev 速度快 193.6 倍、成本低 444.6 倍。但需要注意以下几点:
发布后数日内社区项目便已涌现。举例如下:
Jev 输出的是带概率的 typed decisions,而非字符串。
3 种原语(Choice、Score、Noul)可以在 1 个请求中共享。
输入 token 成本为每 100 万 0.042 美元,输出 token 免费。
TypeSafe 报告端到端响应时间为 70ms 到 500ms。
主要基准测试由厂商自行运行,请在自有数据上测试。