开源 AI 工程课程带你手写模型与智能体
这套 MIT 许可课程包含 542 节课,涵盖手写分词器、反向传播、Transformer,以及搭建 RAG、智能体运行时和评测流程。配套项目包括小型编程智能体、带引用的文档问答和支持回退的模型网关。
AI 深度解读
AI Engineering From Scratch 是一套免费的开源课程。作者推荐它,是因为它把平时藏在 AI API 和框架背后的组件拆成了动手练习,从手写分词器、注意力机制,一路做到检索、智能体和生产部署。
对前端和全栈开发者,最实用的读法是把它当作一份可以按问题选课的工程地图。想弄清文档问答为什么引错出处,就从检索练起。想弄清编码智能体怎么调用工具,就去看运行时。
542 节课串起了哪些工程问题?
课程采用 MIT 许可证,分 20 个阶段,共 542 节,涉及 Python、TypeScript、Rust、Julia 和 Go。按作者发文时给出的数字,仓库在 GitHub 上约有 8 万颗星。短文列出了这 5 种语言,各语言分别覆盖多少课程则没有交代。
课程从手写反向传播和分词器开始。反向传播用来算出模型参数该往哪个方向调整,分词器则把文本切分并转成模型能处理的编号。再往下是手写注意力机制和 Transformer。注意力可以理解为模型处理某个位置时,给其他位置的信息分配不同的权重。亲手实现一遍,有助于搞清各个组件处理的输入是什么、输出又交给谁。
从模型原理到应用上线,中间还要补什么?
模型能生成文本之后,应用还要处理资料从哪来、工具怎么调用、结果怎么检查。课程把这些工作拆到检索管线、检索增强生成(RAG)、智能体运行时、评估和 MCP 工具里,最后延伸到生产部署。
带引用的文档问答能说明为什么要分开学这些环节。RAG 先找出相关资料,再把资料交给模型生成回答。引用错了,可以先看检索有没有捞到对的段落,再看回答有没有把结论对应到正确的来源。智能体运行时关注的是另一类问题,例如如何发起工具调用、接收结果,再把结果带回下一步。
104 个项目里,哪些更适合先动手?
原文列出 104 个项目,其中 79 个已可动手构建。举出的例子有小型编码智能体、浏览器智能体、多智能体代码审查小组、带引用的文档问答,以及带故障回退的 LLM 网关。原文没有逐项说明这些例子属于哪一批,也没给出各项目的耗时。
选题可以跟手头的工作走。做知识库,文档问答能练到资料检索和引用。做 AI 编程工具,小型编码智能体可以用来理解一次工具调用的来回。需要接入多个模型服务时,LLM 网关对应的是主服务失败后如何切换的问题。
我的判断
我认同按组件拆开学。出了问题,知道该去查检索结果、模型回答还是工具执行,比反复改提示词更容易定位故障。直接用 SDK 或框架通常能更快做出第一个可用版本,手写一小段则给了你看清接口背后行为的机会。两种做法可以放在同一个项目里。
原文是一篇项目推荐。作者没有报告自己完成了哪些课程,也没有给出学习耗时、前后效果或与框架教程的对照。约 8 万颗星能说明项目受到关注,至于这条路线能否学得更快、生产部署覆盖到什么程度,原文没有给出验证。
能拿来做什么
- 做文档问答时,挑几道答案和出处都已知的问题,先检查检索返回的段落,再核对最终答案的引用。
- 用 TypeScript 练小型编码智能体时,先跑通一次读取本地文件的工具调用,记录输入参数和返回结果,再试一次文件不存在时的处理。
- 用 Node 接入 LLM 网关时,模拟主模型请求失败,检查备用模型是否接手,以及调用方能否从日志里查到实际走了哪条路径。