8.0
热点
AI SCORE
技术实践2026-03-27 01:31
500 美元 GPU 编程性能超越 Claude Sonnet
Hacker News · github.com#编程性能#模型对比#成本分析
Editor brief · 编辑速览
基准测试表明本地 GPU 在编程任务上可匹敌或超越云端大模型。为开发者的工具选型和成本评估提供了重要的性能对比数据。
ATLAS 是一个本地编码 agent，它为紧凑型开源模型提供前沿级别的推理和验证能力。它在模型周围的系统中加入更多智能（规划、候选生成、质量评分、沙箱测试和修复），使得较小的模型能够完全在自己的硬件上处理真实的软件工作，无需托管 API 或按令牌付费。
从小模型获得更多价值。ATLAS 在模型周围添加规划、候选选择、验证和修复，而不是依赖单个生成。
验证后再接受。生成的代码可以在隔离的执行环境中编译、测试和修正。
在重要的地方花费计算。简单的编辑走较短的路径，而较难的任务获得更多的候选、推理和验证。
运行你自己的模型。在 NVIDIA、AMD、Apple Silicon、Vulkan 或 CPU 支持的硬件上使用兼容的 GGUF 模型。
完全本地控制。ATLAS 不会有意将你的仓库或提示上传到托管模型或 ATLAS 运营的服务。沙箱命令默认具有出站网络访问权限；设置 ATLAS_SANDBOX_NET_INTERNAL=true 禁用它。
掌握完整堆栈。ATLAS 是开源且自托管的。它不需要托管模型或第三方模型提供商的 API key；本地安装服务令牌对 ATLAS 服务进行身份验证。
2026-07-06 - V3.1.3 "Maia" 发布 - 生产平台 pass：分阶段升级/回滚带自动恢复、SQLite 状态存储（不再需要 Redis）、有签名的工件清单、结构化日志 + 关联 ID、交互式权限、会话恢复和两次对抗性 bug 修复扫描
2026-06-17 - V3.1.2 "Maia" 发布 - 更广泛的硬件支持（ROCm / Metal / Vulkan）、自带模型 Lens + ASA 训练、从你自己的工作负载进行环路内 lens 再训练，以及一次 agent 可靠性 pass
2026-05-12 - V3.1.0 "Maia" 发布 - 原生 Bubbletea TUI、一键启动、流式 Lens + ASA 激活方向舵，AST 感知的外科级编辑
2026-03-26 - Hacker News 首页 - 489 分、285 条评论
2026-03-05 - V3.0 发布 - 在冻结的 Qwen3-14B 上达到 74.6% LiveCodeBench pass@1-v(k=3)（使用 k=3 生成的候选、Lens 选择和修复的 pass@1，不是单代生成 pass@1；方法论）
2026-02-18 - V2.0 发布 - 基准设施、HumanEval/MBPP/LiveCodeBench/GPQA/SciCode 评估套件
每周更新（周一，通过 GitHub Actions）。
在任何项目目录输入 atlas 来启动。
实时管道视图 - 在侧窗格中观看 V3 阶段流式输出
斜杠命令 - /add、/diff、/commit、/run 用于本地文件上下文和 shell 调用
输入模式 - chat、!bash 和 /slash，带有提示下拉菜单
工具调用路由 - 按复杂性级别分类文件操作
语法强制 - GBNF 模式强烈引导输出向预期的 JSON 形状靠拢，代理端异常恢复用于格式错误或截断的输出
BiasBusters - 四个组合缓解措施（描述、语法禁令、系统注释、ASA 方向舵），推动模型走向 ast_edit 以进行结构代码编辑
安全限制 - 轮次上限、令牌预算、超时
PlanSearch - 约束驱动的结构化规划
DivSampling - 跨温度和策略的多样化候选
Budget Forcing - 每阶段思维令牌分配
PR-CoT 修复 - 自生成的测试用例用于迭代修复
细化循环 - 沙箱验证和修正，然后重复
推导链 - 用于更难问题的多步推理
C(x) 成本场 - 模型-隐藏维→512→128→1 MLP 评分候选质量
G(x) 质量预测 - 用于选择的 XGBoost 集合
RAG / PageIndex V2 - AST 感知的代码检索和项目索引
置信度路由 - Thompson 采样将计算路由到需要它的候选
多语言执行：Python、Rust、Go、C、Shell、其他
编译和 linting 在评分之前
运行生成的和现有的测试套件
GPU 加速量化推理（Q6_K / Q4_K_M）- NVIDIA CUDA、AMD ROCm、Apple Metal（macOS 混合）和 Vulkan；Intel SYCL 在路线图上
令牌级语法约束解码
自嵌入，所以 lens 不需要第二个模型
完整文档（设置、架构、配置、故障排除、基准报告以及每个组件背后的研究）位于 docs/ 目录。
curl -fsSL https://raw.githubusercontent.com/itigges22/ATLAS/main/scripts/atlas-bootstrap.sh | bash
不想将移动脚本管道注入 bash？相同的安装程序，两种更谨慎的运行方式：
# 固定到一个发布版本：脚本、检出和镜像都在有签名的标签处
curl -fsSL https://raw.githubusercontent.com/itigges22/ATLAS/v3.1.3/scripts/atlas-bootstrap.sh \
| ATLAS_BOOTSTRAP_REF=v3.1.3 bash
# 运行前审查
curl -fsSL -o atlas-bootstrap.sh https://raw.githubusercontent.com/itigges22/ATLAS/main/scripts/atlas-bootstrap.sh
less atlas-bootstrap.sh
bash atlas-bootstrap.sh
该脚本检测你的发行版（Ubuntu、Debian、RHEL、Fedora、Rocky、Alma）和你的 GPU 供应商（NVIDIA → nvidia-container-toolkit；AMD → ROCm 设备透传），安装适当的运行时，下载模型权重，构建 ASA 方向舵向量，并启动堆栈。预期需要 10-30 分钟；模型下载是瓶颈。
然后在任何项目目录中，运行 atlas。
Apple Silicon 通过 macOS 混合 Metal 路径本地运行（原生 llama-server + Docker 用于其余部分 - 见 SETUP_MACOS.md）；Intel Arc（SYCL）在路线图上。关于手动安装路径（Docker Compose、裸机、K3s）和完整的启动标志集合，见 SETUP.md。
Linux Docker 堆栈，加上原生 macOS 路径。NVIDIA（支持）、AMD ROCm（社区测试）和 Vulkan（预览）Docker 路径现在存在；Apple Silicon（支持）通过原生 macOS 混合 Metal 路径运行（#32）。Intel Arc / SYCL 在路线图上。级别定义：SUPPORT_MATRIX.md。
当前的注册表模型尚未正式基准测试。规范的 74.6% LiveCodeBench 分数来自冻结的 14B 参考构建。新的特定模型的数字在 #28 中跟踪。参考方法论和消融研究位于 docs/reports/V3_ABLATION_STUDY.md；原始跟踪在 HuggingFace 上。
复杂功能添加可能不一致。紧凑模型有时会在探索不熟悉的代码库后才花费 agent 轮次写代码。通过 V3.1.2 agent 可靠性 pass，可靠性有所改进；新的特定模型的数字在 #28 中跟踪。
语法约束解码速度缓慢。在 llama-server 上约 51 tok/s。
V3.1.2 之上的生产平台 pass：带自动恢复的分阶段 atlas 升级/回滚、用 SQLite 状态存储替换 Redis（ADR 0007）、有签名的工件清单、带交叉服务关联 ID 的结构化 JSON 日志、交互式权限提示、会话恢复、类型化配置验证/迁移以及两次对抗性 bug 修复扫描（33 个已确认的修复）。
更广泛的硬件支持、自带模型训练和一次 agent 可靠性 pass，基于 V3.1.0 基础（TUI、一键安装、流式 Lens + ASA）。
硬件支持：AMD ROCm 通过 llama.cpp 包括 RDNA4 / RX 9070（gfx1200/gfx1201）（#26）；Apple Silicon 原生 macOS 混合 Metal 路径（#32，见 SETUP_MACOS.md）；Vulkan 通用后备覆盖 AMD / Intel / Snapdragon / Apple-via-MoltenVK / CPU（#114）。
自带模型：本地 Lens 训练管道（atlas lens build / retrain，#100）和 ASA 每模型校准奇偶性（atlas asa check/build/publish，#113）- 为额外的 GGUF 训练 Lens + ASA 工件，使用与 lens 一起发布的每模型操作阈值。
环路内 lens 训练：在 TUI 中评分通过（/good · /bad · /review · /deny）→ 收集的加权样本 → atlas lens 在你自己的工作负载上重新训练。
Agent 可靠性：工具结果可见性修复、读去重、回溯 → 定向编辑、move_file、pip-install / 情况不匹配方向舵、沙箱 shell 策略 + 主机大小的 cgroup 限制。
结构调用图推理（#39 / #125，感谢 @yogthos）；ARCHITECTURE.md 翻译为 zh-CN / ja / ko（#25）。
深化代码推理和规划。
架构优先规划阶段 - RPG 风格的先规划后填充：在模块作用域进行规划，然后在函数作用域实现（#120，PR #124）。
结构代码推理（尾部）- 求解器支持的可达性 + 语法无关的小波分解，用于多分辨率"哪些文件重要"检索（#39）。
带采样的推理 - 效率和质量收益（#9）。
延期的基础设施：自动 HuggingFace 提交管道（#102）；ROCm 在 K3s / Kubernetes 上；正式的注册表模型基准 - LiveCodeBench、GPQA Diamond、SciCode（#28）。
硬件：ARM64 多架构构建（#115）、多 GPU 用于更大模型（#34）、Intel oneAPI / SYCL（#27）。
工具：VS Code / JetBrains 扩展（#35）。
沙箱语言：Java / Kotlin（#29）、Ruby / PHP（#30）。
架构：模型无关的平台（#66）。
ATLAS 由一名大学生在他的空闲时间在一个消费级 GPU 上单独构建。如果该项目对你有用，并且你想帮助维持其可持续性，请考虑在 GitHub 上赞助。
赞助直接资助：
计算和硬件 - 更多 GPU 以加快基准迭代、访问维护者负担不起的架构（AMD ROCm、更高 VRAM 的卡、用于更大模型实验的云租赁）。
贡献者赏金 - 对在实质性 PR 上投入真实时间的外部贡献者的有意义的补偿，以便 ATLAS 能够以比单人速度更快的速度增长。
研究 - 围绕该架构的持续学术参与，从未来的研讨会和会议提交到论文撰写和验证及扩展该方法的协作。
社区 - 对 ATLAS 运行的社区和平台的持续支持，包括文档、面向用户的频道以及帮助 ATLAS 覆盖更多开发者并更好地服务已使用者的教育内容。
每位赞助商都在他们帮助资助的版本的发布说明中获得提及。
ATLAS 在开放中开发，欢迎贡献者和核心维护者。Bug 修复、加速器支持和更大的子系统工作都欢迎。
发现了 bug 或碰壁了？开放一个 issue - 你不需要提交修复。Bug 报告和反馈与代码同样有帮助。
查看 CONTRIBUTING.md 获取指南和仓库地图以获得代码库布局的概览。
根据 GNU Affero 通用公共许可证 v3.0（AGPL-3.0）许可。