用 TypeScript 动手学 AI 工程的 30 天路线
这份开源路线用 TypeScript、Node.js 和 Ollama 本地模型,从聊天应用逐步做到工具调用、语义检索和文档问答。练习包括自建向量存储,并覆盖应用评估和提示注入,所需环境无需付费 API 密钥。
AI 深度解读
AI Engineering Journey 是一条免费、开源的 30 天学习路线。它用 TypeScript、Node.js 和 Ollama,从聊天机器人一路做到基于文档的助手,中间还安排了手写向量存储、工具调用和评估。全程使用本地模型,无需付费 API Key。
对已经会写前端或 Node.js 的读者,这份路线最有用的地方是给出了一串能动手的小项目。你可以沿着一次用户提问,看清应用怎么调用模型、怎么找资料,又该怎么判断回答有没有用。
为什么从聊天机器人开始
作者的做法是先搭一个能对话的小应用,再逐步加入提示词工程(prompt engineering)、工具调用(tool calling)和 AI 智能体(agent)。最简单的聊天流程只需要把输入交给模型,再把结果显示出来。有了这条链路,改一处提示词就能观察输出怎么变,也更容易分清哪些逻辑由应用负责,哪些结果由模型生成。
工具调用把这条链路往前推了一步。比如用户问订单状态,模型可以提出调用查询函数,应用执行函数,再把结果交回模型组织成回答。到了智能体这一层,模型还可能根据工具返回的结果决定下一步。先做通一次调用,再理解多步决策,每一步都能单独检查。
手写向量存储能学到什么
路线把嵌入(embedding)、语义搜索和手写向量存储放在一起,最后把它们用到文档助手里。嵌入会把文本表示成一串数字,语义搜索用这些数字衡量文本之间的相似程度。比如用户搜「忘了密码」,即使用词不同,也可能找到标题为「重置登录凭据」的文档。
向量存储负责保存这些数字表示,并在查询时找回相近的内容。自己实现一遍,最直观的收获是能看到模型回答前到底收到了哪些资料。文档助手答错时,可以先检查相关段落有没有被找回来,再检查模型有没有用好已经找到的段落。
路线还把评估和提示词注入(prompt injection)列为学习内容。对文档助手来说,评估可以从一组能在文档里找到答案的问题开始。提示词注入则涉及另一件事:检索到的文本也可能夹带指令,应用需要把这些文本当作资料来处理。
我的判断
手写一遍向量存储适合用来理解检索流程。直接接现成组件通常更快,尤其是团队已经知道怎么查检索问题,只想验证文档助手能否解决业务需求时。学习时最费时间的那一步,在交付时可以交给成熟组件。
作者分享的是他在探索 AI Engineering 时采用的学习思路。原文没有实测结果,也没有与先读理论、直接用框架等做法的对照数据。「先做小项目更容易入门」是经验之谈。30 天是路线的安排,原文没有交代每天的投入、本地模型的型号或机器配置。无需付费 API Key 省去了开通模型服务的一步,实际进度还得看你是否熟悉 TypeScript 和 Node.js,以及本地模型跑得怎么样。
能拿来做什么
- 用熟悉的前端栈搭个对话框,让 Node.js 调用 Ollama。固定几条输入,每次只改一处提示词,观察输出具体变了什么。
- 给聊天机器人加一个只读工具,例如查询本地的订单样例数据。分别检查模型选择的工具、传入的参数和函数的返回结果,定位出错的是哪一步。
- 选几份自己熟悉的文档做问答,再加几道文档里找不到答案的题。逐题记录检索命中的段落和最终回答,方便区分资料找错与回答写错。