基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
模型发布2026-11-16 12:45

Edge0 发布可下载的千亿参数编程模型

dev.to · AI#编程模型#本地部署#混合专家
Editor brief · 编辑速览

Edge0 推出面向编程、推理与智能体任务的 145B 和 120B 可下载模型,其中 145B 采用 MoE 架构,每步约激活 10B 参数。厂商称其在兼容 NVIDIA 硬件上峰值内存约 29GB、速度超过每秒 80 token,但摘录未交代完整测试配置。

文章思维导图
Knowledge map
拖拽缩放
AI deep read

AI 深度解读

1450 亿参数的编程模型,能放在自己的机器上跑吗?Edge0 公布的 Edge0-145B 给出了一个颇有吸引力的答案:峰值内存约 29 GB,在兼容的 NVIDIA 硬件上,生成速度超过 80 tokens/s。不过,这些都是公司报告的数字,原文没有提供独立实测。

这篇短文值得读的地方,是它把本地编程助手的三个问题摆在了一起:大模型如何降低计算量,本地部署能解决哪些痛点,以及为什么模型可以下载,也未必能直接拿去商用。

145B 参数,为什么每一步只动用约 10B?

Edge0 同时公布了 Edge0-145B 和较小的 Edge0-120B,面向编程、推理和智能体任务。原文重点解释的是前者,没有给出 Edge0-120B 的具体性能数据。

Edge0-145B 使用混合专家架构(Mixture of Experts,MoE)。可以把它理解成一个分工明确的专家团队:路由器根据当前处理的内容,只调用其中少数专家子网络,不要求所有参数都参与每一次计算。

因此,模型虽然共有 1450 亿参数,每一步实际激活的参数只有约 100 亿,也就是约 10B。其余参数在这一步不参与计算。

这解释了它为什么可能比同等总参数量的稠密模型更省计算,但还不能单独解释约 29 GB 的峰值内存。未激活的参数仍然需要存储,如何压缩、加载和调度,会影响实际占用。原文没有交代量化精度、权重存储方式或内存统计口径,无法据此还原部署方案。

总参数量、激活参数量和运行内存,是三个需要分开看的指标。

原文把激活参数量视为决定生成速度的关键,但实际速度还受硬件带宽、推理实现和上下文长度等因素影响,不能只凭约 10B 激活参数推算自己的机器能跑多快。

本地运行的吸引力,在于代码留在自己手里

作者认为,云端编程助手有两个持续成本:代码需要发送到别人的服务器,使用时还要按 token 付费。本地部署则让开发者有机会把代码和推理过程留在自己的硬件上。

对于客户项目、尚未发布的产品,这种控制权确实有价值。但「代码不离开机器」成立的前提,是整个工作流都在本地;如果助手调用的工具仍会向外部服务发送代码,仅把模型搬回来还不够。

另一个吸引力是交互速度。Edge0 报告,在兼容的 NVIDIA 硬件上,速度超过 80 tokens/s。作者据此认为,助手响应可以更流畅,串联几十个步骤的智能体任务也能减少等待。

这里需要区分「生成快」与「任务完成快」。智能体还会花时间读取文件、执行命令、运行测试,原文没有给出完整任务的耗时或成功率。

约 29 GB 的峰值内存也划出了门槛。作者明确将它定位为工作站级方案,普通轻薄本并不适合。标题里的「在家运行」,并不等于现有笔记本下载后就能用。

我的判断

我认同作者把隐私、速度和许可放在同一张桌上讨论。对程序员来说,模型规模只是起点,能不能接进项目、能不能稳定完成任务,才决定它有没有日常价值。

但目前这篇文章更接近发布信息解读。它没有展示作者实测,也没有给出具体显卡型号、测试上下文、并发条件、代码任务成绩或与其他模型的对照数据。超过 80 tokens/s 可以说明厂商报告的生成速度,不能证明代码质量,也不足以证明它能替代现有云端助手。

原文还明确提醒:许可存在限制,但没有列出具体条款。因此,不能把「可下载」当成「开源」,也不能据此认定允许商用。

它提供了一个值得验证的本地部署选项,还没有提供足够证据证明这是成熟的替代方案。

相较于继续使用云端助手,本地方案增加了硬件和运维投入,换来对代码流向与运行环境的更多控制。是否划算,要看使用频率、任务质量和许可条件,原文没有给出成本对照。

能拿来做什么

  • 如果团队正在评估本地编程助手,可以把 Edge0-145B 列为候选,同时要求补齐硬件配置、约 29 GB 内存的统计口径,以及超过 80 tokens/s 的测试条件。
  • 用真实前端或 Node 项目做小规模验证,例如修复一个已有缺陷、补充一项测试、完成一次跨文件修改,同时记录正确率和总耗时。
  • 对包含客户代码的项目,先检查模型、编辑器插件和工具调用的数据流,确认整条链路是否符合本地处理的要求。
  • 在商业项目中使用前,先核对许可是否覆盖团队的具体用途;原文没有提供条款,不能替它作出商用判断。
Original source

本文由 AI 通读原文后重新编写,观点部分为站内判断,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
部署大模型前,先算权重和 KV 缓存
下一篇
Codex 日志为何造成大量 SSD 写入

资讯速览

dev.to · AI · 2026-11-16 12:45

AI 评分 8.0 / 10

相关标签

#编程模型#本地部署#混合专家

继续阅读

  • 给编程代理写规格,先锁定数据与接口
  • 部署大模型前,先算权重和 KV 缓存
  • Codex 日志为何造成大量 SSD 写入
  • Qwen4-Max 正式开放,支持百万上下文
  • 将 Agent 的工具意图与执行权限分离