作者放弃框架、从Python+本地LLM起步,手写调度、推理、支付等组件,通过9期内容记录学习过程。
你是否有这种经历:想入门 AI Agent,却发现自己在不断复制粘贴代码,却根本不理解背后的原理?
网上有大量教程,声称用框架 10 分钟就能从零搭出一个可用的聊天机器人。我也看过不少,确实能用——但一旦出了问题或出现意料之外的行为,你完全不知道该从哪里排查,因为所有事情都被框架封装好了。
所以我决定从零开始学。起步阶段不用任何框架。只有 Python、跑在我笔记本上的本地 LLM,以及一个目标:真正理解每个部件之后,再进入下一步。
这是一个 9 篇的系列,记录这段旅程——我学了哪些内容、做了什么东西、以及一路上有哪些认知上的突破。
当你从底层开始构建东西时,会发生一件有趣的事——等到你接触到多 Agent 系统时,你会发现它不过是前面几篇文章里构建的那个工具循环在独立运行罢了。一切都不再像魔法,因为你已经亲手搭过每一个零件。
这就是目标所在。学完之后,当你拿起 LangChain、AutoGen 或任何其他框架时,你会清楚地知道它在底层做了什么。
只需要两样东西就能跟着学:Python 和 Ollama。Ollama 可以让你在本地运行 LLM——它是免费的,没有任何数据会上传到云端,而且只需一条命令就能切换模型。无需 API key,无需注册,无需付费。所有东西都在你笔记本上跑。
后面的文章会引入几个额外的库,但我们只在需要的时候才会添加。
以下是每篇文章的内容概览:
每篇文章都有可运行的真实代码,并且每一篇都基于前一篇的内容。重点是深度理解——每个概念都是先讲为什么,再讲怎么做。
第一篇文章从 LLM 基础和 Prompt 开始——什么是 token、temperature 为什么重要,以及可以立即动手实验的练习。那里见。🚀