基于 Apple Silicon MLX 框架的原生 macOS 应用,提供可视化训练界面、支持自定义数据集和实时 loss 监控,可直接生成和对话自己训练的模型。
我一直 在开发 LabLLM,这是一款免费的原生 macOS 应用,可以使用你自己的数据集从头训练小型 Transformer/LLM 模型。
如果实验语言模型能像使用创意工具一样简单,而不是像搭建一个 ML 项目那样麻烦,那会怎样?
训练语言模型不应该需要把脚本、笔记本、仪表盘、检查点文件夹和你不敢关闭的终端窗口拼接在一起。
LabLLM 为你提供了整个训练循环的可视化工作空间:
GitHub: https://github.com/Greninja9257/LabLLM Releases: https://github.com/Greninja9257/LabLLM/releases Discussions: https://github.com/Greninja9257/LabLLM/discussions
大多数 LLM 工具都是为那些已经习惯于在 Python 脚本、配置文件、终端和各种基础设施中工作的人设计的。
这些工具很强大。但它让第一次实验的门槛高得惊人。
如果你对语言模型感到好奇,想回答这样的问题:
"如果我在这个数据集上训练一个很小的语言模型,会发生什么?"
你应该能够在不先搭建半个研究平台的情况下找到答案。
这就是 LabLLM 存在的意义。
我希望它更像是一个工作坊:
带着数据集 → 构建模型 → 训练它 → 观察它学习 → 检查结果 → 尝试另一个想法。
它并不是要取代生产级 ML 基础设施,而是为学习、实验、本地模型开发、微调和让训练过程变得可见而设计的。
该应用目前能够:


在这一点上,我对添加另一个花哨功能不太感兴趣,而是对让训练本身变得可靠更感兴趣。
一个训练应用不应该只是画出一条漂亮的损失曲线。
如果曲线下降了,你应该能够相信这条曲线实际代表什么。
所以我一直在关注以下几个方面:
这些细节并不是特别引人注目。
但它们仍然很重要。
目标是让 LabLLM 成为一个工具,让你可以运行一个实验,改变一个变量,再次运行它,并相信你实际比较的正是你认为自己在比较的东西。
你不需要成为一个 ML 研究员才能贡献。
在整个项目中有很多有用的领域:
如果你对 Swift、ML 工具、本地优先软件或让机器学习更容易理解感兴趣,我非常希望你能参与进来。
Contributing guide: https://github.com/Greninja9257/LabLLM/blob/master/CONTRIBUTING.md
我希望 LabLLM 成为你想要通过实际训练一个语言模型来学习它如何工作时会打开的应用。
不仅仅是阅读关于损失曲线的文章。
不仅仅是看一个 Transformer 图。
构建一个小型 Transformer 并实验它。
不仅仅是下载一个模型。
训练一些足够小到可以理解、足够私人化到愿意关心的东西。
这就是我试图构建的体验。
LabLLM 是早期软件。
它可以训练和微调真实的模型,但它还不是一个完善的、生产级的 ML 平台。会有粗糙的边缘、bug 和相当快速的变化。
如果你尝试它,请备份任何重要的东西,并请报告任何令人困惑或损坏的地方。
这些报告在这个阶段非常有价值。
如果这听起来有趣:
GitHub: https://github.com/Greninja9257/LabLLM Latest releases: https://github.com/Greninja9257/LabLLM/releases Contributing: https://github.com/Greninja9257/LabLLM/blob/master/CONTRIBUTING.md Discussions: https://github.com/Greninja9257/LabLLM/discussions
如果你关心让 ML 工具感觉可理解、可信和有趣,我会特别希望得到你的帮助。
训练一个小型模型。看看会发生什么。