用 Python 和 Ollama 跑通本地工具调用
教程用 Ollama 运行 Qwen3 8B,并将 Python 计算器函数注册为工具。模型发起调用,Python 应用执行函数并回传结果,模型据此生成最终答复。
AI 深度解读
给本地模型一道算术题,让它自己决定要不要调用计算器。作者用 Ollama、Qwen3 8B 和 Python 搭了一个最小 Agent,把工具调用拆成几个看得见的步骤:模型提出请求,应用执行函数,再把结果交回模型生成答案。
这个例子适合想弄清 Agent 怎么跑的前端和全栈开发者。项目只有一个工具,最多跑五步,你可以顺着一条请求看清每一步由谁负责,以及应用在哪里决定继续或停止。
模型要用计算器时,谁来执行?
作者预设的任务是 Calculate (125 * 8) + 37,期望结果为 1037。Python 应用把任务交给本地的 Qwen3 8B,并把计算器函数作为可用工具提供给模型。模型在需要时发出调用请求,Python 执行计算,把结果交回模型,模型再生成给用户看的答复。
模型负责请求工具,应用负责执行工具。
这条分工解释了为什么工具调用需要应用参与。模型发出的调用请求只是供程序处理的数据,真正的计算发生在 Python 函数里。应用拿到计算结果后,还要把它带回对话,模型才有机会据此完成回答。
为什么要限制计算器和循环步数?
计算器用 Python 的 AST(抽象语法树)模块解析表达式,只计算代码明确支持的基本算术操作,避开不受限制的 eval()。可以把 AST 理解成表达式拆解后的结构,程序可以逐项判断遇到的操作是否允许。
循环也有上限,最多执行五步。应用在循环中处理工具请求并回传结果,收到最终答复或达到上限时就停止。原文没有说明达到上限时会给用户返回什么,也没有给出五步适用范围的测试结果。这个数字可以当作示例的运行预算。
本地跑起来需要什么?
需要 Python 3.10+、Ollama,以及足够运行模型的可用内存。先执行 ollama pull qwen3:8b 拉取模型。这套配置在本机运行,无需单独申请托管 AI API 的密钥,原文没有给出具体内存门槛。
下面两条命令获取项目源码并进入项目目录。
git clone https://github.com/chaitasipatel25/local-ai-agent.git
cd local-ai-agent
第二行要进入克隆生成的 local-ai-agent 目录,后面的启动命令会在当前目录查找 agent.py。
接下来安装 Python 依赖并启动示例。
python -m pip install ollama
python agent.py
第一行安装的是 Python 侧的 ollama 依赖。前面拉取模型以及运行模型所需的 Ollama 环境,要另外准备。原文还提到仓库里有计算器测试,正文给出的是算题的期望值,没有贴出测试输出或完整的调用日志。
我的判断
这个示例最适合用来理解一次工具调用的来回过程。固定题目和单个工具让排查很直接,模型有没有请求计算器、Python 有没有执行、结果有没有传回,分别都能观察。若需求只是计算这道题,直接调用计算器函数更简单。把模型加进来,练习的是如何把自然语言任务交给程序执行。
作者建议先用单模型、单工具和一个循环熟悉流程,再考虑框架。这是经验之谈,原文没有比较框架方案与手写循环的开发成本,也没有给出工具调用成功率。动态输入、多步任务和会话历史是作者列出的后续探索,当前的单题示例无法说明这些场景里的表现。
能拿来做什么
- 跑固定算题时,分别记下模型的工具请求、Python 的计算结果和最终答复,确认
1037有没有沿着这条链路传回。 - 接入动态输入前,先用现有的计算器测试核对支持的运算,再补一个不支持的表达式,看看错误能否让调用方读懂。
- 想练习增加工具,可以先加一个单位换算函数,观察模型如何在两个工具之间选择,以及应用在达到五步上限时如何收尾。