由信息检索和机器学习专家授课的完整课程,涵盖评估、微调、RAG 等核心主题。
今天,我们正式发布 Mastering LLMs:一套由一线从业者讲授的系列工作坊与演讲,主题涵盖 evals、检索增强生成(RAG)、fine-tuning 等。这门课程的独特之处在于:
由 25 位以上的行业资深人士授课。他们是信息检索、机器学习、推荐系统、MLOps 和数据科学领域的专家。我们会讨论如何将这些领域积累的方法应用到 LLMs 中,帮助你获得真正有意义的优势。
专注于应用型主题,面向正在构建 AI 产品的人。
完全免费,向所有人开放。
我们整理并标注了广受欢迎的付费课程中的演讲内容。¹ 这是一门面向技术 IC(包括工程师和数据科学家)的概览课程,适合已经具备一定 LLMs 使用经验、希望了解如何改进 AI 产品的人。
这门课程默认你已经对 LLMs 有基本了解。如果你还没有任何相关经验,我们建议先观看 A Hacker’s Guide to LLMs。如果你对 fine-tuning 感兴趣,我们还建议学习 Instruction Tuning llama2 教程。²
整套课程包含超过 40 小时的内容。为了帮助你更高效地浏览,我们提供了:
按主题领域组织的内容:evals、RAG、fine-tuning、应用构建和 prompt engineering。
章节摘要:快速浏览每场演讲涉及的主题,并直接跳转到感兴趣的部分。
笔记、幻灯片和学习资源:既包括演讲中使用的材料,也包括可供进一步学习的资源。很多时候,我们还准备了非常详尽的笔记!
要开始学习,请进入课程页面,探索你感兴趣的主题。与你无关的部分可以直接跳过。我们对每个主题下的演讲进行了专门编排,以优化你的学习体验。请务必查看章节摘要、笔记和学习资源,它们能帮助你聚焦最相关的内容,并在需要时进一步深入。这是一门概览课程,因此重点是介绍各个主题,而不是深入讲解代码。为了巩固理解,我们建议把学到的知识应用到个人项目中。
以下是部分课程学员的评价:³
2017 年曾有过一段神奇的时期,fastai 改变了整个深度学习世界。这门课程也做了同样的事:它把高度实用的知识延伸到了 LLMs 领域。顶尖的老师毫无废话地把自己的知识传授给你。
这门课程堪称传奇,至今依然如此,Discord 上的社区也非常棒。我已经把这些课程学了两遍,但还得再学一次,因为只有当你在自己的部署中真正遇到这些问题时,才会体会到其中如此之多的细微之处!
太棒了!这是一套对 LLMs 有着鲜明观点的课程,内容从工具一直覆盖到 fine-tuning。讲者非常优秀,带来了一些目前能找到的最佳课程和建议!这套令人惊叹的课程、工作坊和大会,汇集了大量真实世界的经验,以及你在网上其他任何地方都找不到的技巧!感谢 Dan 和 Hamel 促成这一切!
Mastering LLMs 大会解答了我的几个关键问题,包括什么时候应该对基础模型进行 fine-tuning、如何构建评估套件,以及什么时候应该使用 RAG。这些课程非常有价值,让我全面了解了构建和部署定制 LLMs 时涉及的技术挑战与注意事项。
这门课程后来发展成了一场大会,汇集了众多知名从业者。他们的专业能力以及对这个领域的贡献已经令人赞叹,而比这些更令人印象深刻的,只有他们慷慨分享的精神。
大量背景各异的讲者从不同路径探讨同样的主题,有人推崇某些工作流,也有人对其提出批评,这让课程极具价值。尤其是网上的很多信息都来自背后正在开发商业产品的人,因此自然会偏向 fine-tuning、RAG、开源 LLM、OpenAI LLM 等特定方案。能像这样把如此多样的观点汇集在一起,实在非常难得。谢谢!
我一直在持续学习 LLMs,也很乐于分享自己的发现和思考。如果你对这段探索之旅感兴趣,可以考虑订阅。
不定期发送邮件,分享我对 LLMs 的最新洞见
抢先阅读新内容
不发垃圾信息,只有真实的思考与发现
https://maven.com/parlance-labs/fine-tuning。我们的第一期课程有超过 2,000 名学员。购买原始课程的学员可以提前访问课程材料、参加 office hours、获得丰厚的算力额度,并加入活跃的 Discord 社区。↩︎
https://maven.com/parlance-labs/fine-tuning。我们的第一期课程有超过 2,000 名学员。购买原始课程的学员可以提前访问课程材料、参加 office hours、获得丰厚的算力额度,并加入活跃的 Discord 社区。↩︎
我们发现,即使你从未打算进行 fine-tuning,对模型进行 instruction tuning 仍然是一段非常有价值的学习经历,因为它能让你熟悉以下主题:(1)使用开放权重模型;(2)生成合成数据;(3)管理 prompts;(4)fine-tuning;(5)生成预测结果。↩︎
我们发现,即使你从未打算进行 fine-tuning,对模型进行 instruction tuning 仍然是一段非常有价值的学习经历,因为它能让你熟悉以下主题:(1)使用开放权重模型;(2)生成合成数据;(3)管理 prompts;(4)fine-tuning;(5)生成预测结果。↩︎