基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
  • 知识卡片碎片时间过考点
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
    • AI 热点每日 AI 资讯与动向
AI 工作台
旧版
AIHT
内容
精选全部 AI 动态热点榜AI 日报收藏
分类
模型行业编程产品技术观点开源
更多
Agent 接入
返回首页开发者导航
AIHT
精选 / 资讯详情
8.0
热点
AI SCORE
技术实践2026-11-20 22:00

只算 FLOPs,微调工期平均错了 12 小时

dev.to · AI#模型微调#GPU#工期估算
Editor brief · 编辑速览

研究分析了共享 H200 集群上的 272 次监督微调任务,纯算力公式仅解释了实际耗时 31% 的波动,平均绝对误差达 12.41 小时。采用更细致的模型来纳入显存访问和设备间通信后,估算耗时的中位数仍仅为实测耗时的 11%。

文章思维导图
Knowledge map
拖拽缩放
AI brief

原文暂未完整获取,基于公开信息的快读

Dharma-AI 团队分析了共享 H200 集群上的 272 次监督微调任务。只按训练算力估算,公式只能解释实际耗时 31% 的波动,平均绝对误差达到 12.41 小时。文章开头就举了一个例子:公式估了 9 小时,任务到第二天下午还在跑,排在后面的作业也跟着顺延。

目前能确认什么

常见公式用模型参数量和训练 token 数估算浮点运算量(FLOPs),再按 GPU 数量、峰值吞吐和模型 FLOPs 利用率(MFU)折算时间。MFU 会随任务配置变化,提前填进去的是假设值。即使模型进一步计入显存访问和设备间通信,估算耗时与实测耗时之比的中位数也只有 11%。

团队还用提交前就知道的配置、数据集大小和 GPU 分配等信息训练了 CatBoost,五折交叉验证的平均绝对误差降到 1.71 小时。特征重要性排第一的是评估样本总数,可训练参数量排第二。评估、检查点写入和环境准备都会占用作业时间,单算训练 FLOPs 覆盖不到这些环节。

我的判断

同一条训练流水线里,FLOPs 可以用来比较两套配置的计算量。给共享 GPU 排期时,我会按模型规模、GPU 数量和评估频率找同类历史任务,用实测耗时校准,并用历史误差的高分位留缓冲。评估策略一改,就该重新看旧排期还准不准。

目前节选只给出了 H200 上监督微调的结果。我会等完整论文确认两个细节:实测耗时从提交还是从作业启动开始算,以及交叉验证的训练折和验证折里是否出现了相同模型或相近配置。前者决定排队时间要不要另算,后者关系到 1.71 小时的误差能否作为新配置的排期参考。

Original source

本文由 AI 基于公开信息编写,细节以原文为准,来源 dev.to · AI,原文版权归原作者所有。

阅读原文
上一篇
Copilot 用量报表可区分自带密钥调用
下一篇
识别冒牌 GPTBot 要看来源 IP

资讯速览

dev.to · AI · 2026-11-20 22:00

AI 评分 8.0 / 10

相关标签

#模型微调#GPU#工期估算

继续阅读

  • 让 AI 排查布局问题时,截图和 CSS 一起发
  • Copilot 用量报表可区分自带密钥调用
  • 识别冒牌 GPTBot 要看来源 IP
  • 给编程智能体提供 Markdown 版 API 文档
  • 修图智能体通过质检仍可能漏改