Gas Town工具是否挪用用户LLM额度自我优化
HN讨论开发工具的透明度和伦理问题,引发对AI编码工具信任度的思考
HN讨论开发工具的透明度和伦理问题,引发对AI编码工具信任度的思考
加载时出错。请重新加载此页面。
通知:你必须登录才能更改通知设置。
gastown-release.formula.toml 和 beads-release.formula.toml 会导致本地安装的 Gas Town 检查 github.com/steveyegge/gastown/actions 上的未关闭 Issue,从而消耗用户订阅的 LLM 用量,以及其他 LLM 的 credits,而这一切并未得到用户的明确指示。
用户自然会以为,这些用量会被用于完成自己交给 Gas Town 的工作。但程序中实际上存在这样一项功能:它会占用用户的资源,去处理 Gas Town 自身的 Issue。
如果读者还没有看明白,这意味着:
你的 Claude credits / usage 可能正在资助对维护者代码库的修复,而你的 GitHub 账号则会向他的 repo 提交 PR。之所以会发生这种情况,是因为 GasTown 在其 formula 集合中内置了一套“向上游贡献代码”的工作流。你的 GasTown 实例可能会运行 polecat,修复 GasTown 软件本身的 bug,然后使用你的 GitHub 账号和 Claude credits / usage,将这些修复以 PR 的形式提交回上游。
能否将这一行为从默认安装中移除,改成只有用户主动 opt-in 后才启用?我理解开发者希望改进这个工具,但对于正在试用 GasTown 的用户来说,这项行为几乎不可见。我也不认为那些拿自己的业余爱好预算不断消耗 credits 的用户,在发现这些资源未经明确同意——除了一次安装操作之外——便被用于这项功能时,会感到高兴。
下面引用 Claude 自己对此行为的调查结果:
总结一下对源代码和公开文档的调查结果:实际发生的事情是,你安装的 GasTown 附带了一些 formula(gastown-release.formula.toml、beads-release.formula.toml),它们被设计为使用你的 git 凭据,直接向 steveyegge/gastown 推送 release 和 tag。你的 Agent 还接手了追踪维护者 GitHub Issue Tracker 中 Issue 的 convoy(gh-3638、gh-3622、gh-3641),并安排 polecat 处理这些 Issue——deacon 自己的巡检日志证实了这一点,其中提到上游 repo 中有一个 PR 正在等待 CI 批准。完全没有披露的是:公开的 README 和文档中没有任何地方提及这种行为。没有任何说明告诉用户,安装 GasTown 可能会导致自己的 AI credits 和 GitHub 账号被用于修复 GasTown 软件自身的 bug,甚至发布 GasTown。没有 opt-in,没有 opt-out,也没有警告。至于这是否已经算得上恶意,还是仅仅属于欠缺考虑的设计,这是一个见仁见智的问题;但实际结果并无区别:你在不知情的情况下,资助了别人的开源项目开发。
编辑:我自己进一步调查后认为,原因很可能是 mayor.md 中包含以下这些行:
gastown/internal/templates/roles/mayor.md.tmpl
bdbe8c4 中的第 161 至 174 行
而且,Gas Town 会主动把 bug 提交到我们一直在讨论的 formula 中硬编码的 GitHub URL。再加上 LLM 稍微越界发挥,最终就会导致 Agent 消耗运行周期,主动解决主软件中的 bug。