Qwenputer 把可执行 CPU 放进模型内部
实验性开源项目 Qwenputer 基于 Qwen3.5-4B,在模型内部实现 RISC-V CPU 与内存,开发者报告多项整数运算准确率显著提升。模型约 18.8GB,可在 24GB 显存单卡运行,但需要专用驱动,计算延迟也明显增加。
AI 深度解读
Qwenputer 尝试把计算机搬进大模型:基于 Qwen3.5-4B,把 RISC-V 指令集写入模型权重,再借用网络内部状态保存数据,让模型无需调用 Python,也能执行程序。原文给出的算术测试成绩明显提升,但代价是体积更大、计算更慢,还需要专用驱动。
它值得关注的地方,是把「模型猜答案」变成「模型内部执行指令」的尝试。至于能不能替代日常 AI 编程里的计算器和代码执行工具,现有材料还不足以下结论。
模型内部的 CPU,究竟怎么工作
开发者 Divyansh Agrawal 于 10 月 22 日发布了实验性模型 Qwenputer,IT之家在 10 月 30 日进行了报道。
普通大语言模型通过预测下一个词元(Token)生成答案。这个机制可以生成计算步骤,却不保证每一步算术都正确,遇到大整数乘除、长链运算时尤其容易出错。常见解决方式,是把计算交给外部计算器或 Python。
Qwenputer 选择了另一条路:将 RISC-V 的 RV32IM 指令集及相关扩展「编译」进模型权重,在神经网络内部实现一个 32 位 CPU。
这里的 CPU 不是显卡里多出了一块硬件,而是模型内部实现了执行指令的功能。算术、条件分支和程序执行,都沿着这套机制完成。
内存则借用了 Qwen3.5 的门控 DeltaNet(Gated DeltaNet)内部状态。可以把它理解为网络运行时保留的一块数据空间,Qwenputer 将其用作 RAM。
它追求的是让模型按指令计算,而不是仅靠生成文字回答算术题。
不过,报道没有展开权重编译的具体过程,也没解释大整数运算如何映射到 32 位指令上。不能仅凭「内置 CPU」就推断它已经具备完整计算机的通用能力。
准确率提升明显,但要分清两类测试
原文列出的算术结果如下:
| 测试项目 | 原版 Qwen3.5-4B | Qwenputer |
|---|---|---|
| 大整数乘法 | 55% | 97.5% |
| 大整数除法 | 72.5% | 97.5% |
| 多次乘除 | 未提供 | 100% |
| 长整数运算基准 NUPA | 48.6% | 100% |
这些成绩支持一个判断:在报道列出的任务中,加入内部执行机制后,模型的算术可靠性提高了。
开发者还称,内部 CPU 已通过官方 RISC-V 测试,连续执行约 1,800 万条指令未出现错误。这与上面的问答准确率不是同一件事:前者检查指令执行是否正确,后者还涉及模型能否把用户问题转成正确的计算过程。
CPU 执行正确,不代表模型一定理解对了题目。大整数乘除仍有 2.5% 的错误,具体发生在哪个环节,原文没有说明。
项目还试验了「模型内文件系统」:在门控 DeltaNet 状态中保存最多 512 个文件、约 5.3 万个词元,并在后续对话中加载。测试中,利用已保存信息回答问题的准确率达到 90%,直接输入先前对话内容的对照方式为 30%。
这个结果有吸引力,但报道没有提供样本量、文件组织方式和信息加载策略。它展示了保存和复用信息的可能性,还不足以证明这套机制普遍优于直接提供上下文。
我的判断
我认可这项实验的方向:如果任务需要精确计算,给模型一套明确的执行机制,比单纯期待它把计算过程写对更有依据。原文也提供了原版模型与改造模型的算术对照,不能把它仅仅看作概念演示。
但「无需外部工具」本身并不等于更实用。
Qwenputer 的模型体积约为 18.8GB,接近原版两倍;每条 CPU 指令需要生成多个词元,原本几毫秒能完成的计算可能耗时数秒。它还需要专用驱动,不能像普通模型那样直接加载。项目已在 Hugging Face 和 GitHub 开源,可在配备 24GB 显存的单张 GPU 上运行。
它把执行能力收进了模型,也把额外的存储、推理和部署成本带了进来。
对前端、Node 或全栈团队而言,模型调用外部计算器或代码执行工具,仍是值得优先比较的方案。原文没有给出两种路线在端到端准确率、耗时和资源消耗上的对照,不能据此认定内部 CPU 更划算。
文件系统的 90% 对 30% 同样应限定在作者的测试设置内。它还不是一般团队可以直接套用的长期记忆结论。
能拿来做什么
- 给 AI 编程助手设计验收标准时,把「理解需求」和「执行计算」分开检查。即使执行器通过测试,也要验证模型是否选对了数据和运算。
- 前端或 Node 项目需要精确计算时,可以把 Qwenputer 当作技术研究对象,再与外部计算器或代码执行方案比较。评估应同时记录正确率、总耗时和资源占用。
- 如果有单张 24GB 显存 GPU,可以研究开源项目的指令执行与状态存储方式,但部署前要确认专用驱动要求,以及约 18.8GB 模型体积带来的成本。
- 给 AI 助手增加跨对话信息保存能力时,可以借鉴其「保存后再加载」的思路;验收时应说明保存了什么、加载了什么,避免只凭一次准确率提升判断记忆能力。