Shepherd：让AI Agent支持Fork/回滚的Python运行时

长期运行的 Agent 会积累起任何 transcript 都无法捕获的状态。一个编码 Agent 在第 10 步时持有的是已编辑的文件、运行中的开发服务器、已安装的包，以及一份热门的 prompt 缓存。当它误读了一个 traceback 并重写了一个本来已经正确的文件时，两种现有的恢复路径都不便宜：向前打补丁会让 context 和 token 账单膨胀，从第 1 步重启则要重新支付每一次模型调用和工具调用的费用，同时什么都无法精确重现，因为运行是非确定性的。跳回到第 8 步才是工程师真正想要的选项，而这正是现有运行时无法提供的。Git 版本控制的是文件，而不是一个正在运行的进程或缓存。

来自东北大学和斯坦福大学的研究者发布了 Shepherd，这是一个 Python 运行时底层架构，将 Agent 运行记录为类似 Git 的类型化事件追踪轨迹，使得任何过去的状态都可以被 fork 和重放。研究团队报告称，fork 速度比 Docker 快 5 倍，重放时 prompt 缓存复用率超过 95%。

是的，但它目前处于早期 alpha 阶段，尚未准备好用于生产。Shepherd 采用 MIT 许可证，可通过 pip install shepherd-ai 从 PyPI 安装。需要 Python 3.11+。操作系统级别的权限强制执行支持 macOS（Seatbelt）和 Linux（Landlock，位于特权容器中）。

适用行业：软件工程和 DevOps、AI 基础设施和 Agent 平台供应商、量化金融研究、安全工具和进攻性安全研究，以及数据工程。共同点不是行业垂直领域，而是针对重度沙箱状态的长时间跨度 Agent 运行，在这种场景下一次失败的运行代价高昂。

应用场景：编码 Agent 的实时监督，由元 Agent 在一次错误写入提交之前将其回滚；从错误的工具调用中自动恢复，而无需完全重启；对候选 Agent 策略进行分支探索，并排比较；用于强化学习的 rollout 生成，在选定的回合处进行 fork。

Shepherd 改变了什么

Shepherd 是一个 Python 底层架构，将 Agent 的执行记录为一等对象。每个 Agent-环境交互都成为类似 Git 的执行追踪中的一条类型化事件。核心操作被形式化为函数，并在 Lean 中机械化。

每次交互本质上是一次提交。与 Git 不同的是，提交涵盖 Agent 进程和文件系统，采用写时复制机制。因此一个分支携带的是运行状态，而不仅仅是文件。返回到更早的时间点就是从那个提交执行一次 fork。

研究团队报告称，Shepherd fork Agent 进程及其文件系统的速度比 Docker 快 5 倍。因为通过分支点的 prompt 前缀保持不变，重放实现了超过 95% 的 prompt 缓存复用率。

文档围绕四个概念组织框架：任务（tasks）、效果（effects）、运行（runs）和工作区（workspaces）。任务是一个类型化函数，其函数体由模型填充，因此签名就是契约。效果是任务边界的每一次跨越，可以被监视、响应或拒绝。运行是对这些跨越的持久记录。

权限在签名中声明。May[GitRepo, ReadOnly] 绑定被编译到该运行的可写根目录，并在原生系统调用 jail 中强制执行。

一旦运行可以 fork，元 Agent 就可以构建于其上。

Fork 使得高阶 Agent 能够观察一个追踪并在一次错误写入提交之前介入。研究团队展示了三个应用：

在运行时干预中，实时监督者将 CooperBench 配对编程通过率从 28.8% 提升至 54.7%。

在反事实元优化中，分支探索在四个基准测试中最多领先基线 11 分，同时将墙上时钟时间减少最多 58%。

在 Tree-RL 训练中，在选定的回合处 fork rollout 将 TerminalBench-2 从 34.2% 提升至 39.4%。

Shepherd 将每个 Agent-环境交互记录为类似 Git 的可 fork 追踪中的一条类型化事件。

一次提交将 Agent 进程和文件系统一起覆盖，因此回滚恢复的是运行状态，而不仅仅是文件。

据报告：比 Docker 快 5 倍的 fork 速度，重放时 prompt 缓存复用率超过 95%。

实时监督者将 CooperBench 配对编程通过率从 28.8% 提升至 54.7%。

查看 Paper、GitHub、Experiments repo、Project page 和 PyPI。另外，欢迎关注我们的 Twitter，别忘了加入我们的 15 万+ ML SubReddit 并订阅我们的 Newsletter。等等！你用 telegram 吗？现在你也可以加入我们了。

需要与我们合作来推广你的 GitHub Repo 或 Hugging Face Page 或产品发布或网络研讨会等？请联系我们。

Michal Sutter 是一位数据科学专业人士，拥有帕多瓦大学数据科学硕士学位。凭借在统计分析、机器学习和数据工程方面的坚实基础，Michal 擅长将复杂数据集转化为可操作的洞察。