SageMaker 全量微调上线,实测对比 LoRA
SageMaker AI 的无服务器模型定制功能加入全量微调。AWS 用基准测试说明全量微调在哪些场景优于 LoRA,从权重矩阵的谱特性解释性能差距,并给出超参数调节建议。
原文暂未完整获取,基于公开信息的快读
Amazon SageMaker AI 的 Serverless Model Customization 已支持全量微调(Full Fine-Tuning,FFT),训练时无需自行配置 GPU、集群或分布式训练。AWS ML Blog 用代码生成任务对比了全量微调和 LoRA。在作者报告的实验中,全量微调拿到了更高的语义正确性评分。
目前能确认什么
LoRA 冻结预训练模型的权重,只训练少量新增参数,用低秩矩阵表示权重的改动。这样做可以降低训练对 GPU 的需求,但也限制了权重能往哪些方向调整。全量微调允许更新模型的全部参数,能表达更复杂的权重变化。作者用权重矩阵的谱特性,也就是奇异值的分布,来解释两种方法的差距。
实验以 Qwen3-4B 为底座,在 Magicoder-Evol-Instruct-110K 上做监督微调,划出 99,000 条训练样本,验证集和测试集各 5,500 条。两种方法使用相同的提示词、目标答案和评估代码。作者报告,全量微调在模型裁判给出的语义正确性评分上领先,BLEU 和 ROUGE-2 上的差距也较明显。
我的判断
如果你在做代码生成,手里有较多高质量训练样本,而且调高 LoRA 的秩后,留出集上的表现仍停在原地,全量微调就值得加入下一轮对照。对代码任务,我更关心生成结果能否通过编译和单元测试。现有节选给出的语义评分和文本相似度指标,回答不了实际通过率会提高多少。
现有节选也没给出完整的超参数对照。学习率怎么起步、LoRA 试过哪些秩、两种方法各用了多少训练资源,都要等完整实验部分确认。这些细节会影响你能否复现差距,以及质量提升是否值得额外的训练开销。