作者对安装量前 20 的技能进行启用与禁用对照,报告其中 11 个在两款回答模型上均有帮助,部分技能反而降低评分。安装量第一的 find-skills 表现下降,但测试仅评价其文字回答,未覆盖后续技能调用收益。
skills.sh 按安装量为 Agent skill 排名。安装量能说明一个 skill 很受欢迎,却不能说明它是否改变了 Agent 实际写出的内容。
因此,我们从 10 月 17 日的 skills.sh 快照中选取了排名前 20 的 skill,让每个 skill 在相同任务上分别接受两组测试:一组加载 skill,另一组不加载。负责回答的两个模型是 Claude Sonnet 5.5 和 Claude Opus 5.5,评判模型是 Claude Haiku 5.5。一共得到 40 项结果。
20 个 skill 中,有 11 个在两个模型上都带来了明确改善。
安装量排名第一的 find-skills(vercel-labs/skills),在两个模型上都造成了明确退步。两次都是同一个搜索请求任务出了问题:加载 skill 后,回答得分约为 0.75;不加载时,得分则在 0.92 到 0.95 之间。find-skills 是一个路由 skill,负责引导 Agent 使用其他 skill。我们测试的是它写出的回答,而不是它转交任务后调用的那些 skill。
reddit-automation(flowkit-labs/skills):在排序任务上,两个模型都出现了明确退步;在回复任务上,Sonnet 也出现了明确退步。
grill-with-docs 和 hyperframes:仅在 Sonnet 上出现了明确退步。
hyperframes-registry(heygen-com/hyperframes):Sonnet 的得分从不加载时的 0.43 提升到加载后的 0.98;Opus 则从 0.62 提升到 0.97。
prototype(mattpocock/skills):Opus 的得分从 0.36 提升到 0.93。
triage(mattpocock/skills):加载 skill 后,两个模型都拿到了 1.00 的满分;不加载时,得分约为 0.7。
40 项结果中,有 10 项被判定为“回答样本不足,无法判断”。grill-me、tdd,以及 Anthropic 自己的 frontend-design,在两个模型上都属于这一类。
这不等于“没有效果”。它的意思是,即使每组最多生成了 10 次回答,不同次生成之间的回答差异仍然太大,无法判断 skill 究竟带来了改善还是退步。我们宁愿如实写出无法判断,也不愿公布一个重新运行就可能翻转的数字。
对于每个 skill,我们都根据它自身的描述和 README 编写了三个文本任务,并在所有测试开始前固定下来。
每个任务都分别在加载和不加载 skill 的情况下生成回答,每组生成 3 到 10 次,每个回答评分 5 次。
“明确改善”的定义是:至少有一个任务的两组得分区间(均值加减一个标准差)互不重叠,且差距至少为 0.05,同时没有任何任务出现明确退步。只要有一个任务出现明确退步,就优先据此判定,即便其他任务有所改善。
每个 skill 只测试三个纯文本任务,任务由我们编写,而非 skill 作者编写。测试不涉及工具调用、生成的媒体内容或已部署的服务。
这里所说的受欢迎程度,依据的是平台报告的安装量,并不代表质量。
如果你认为某个任务不公平,或者某项结果有误,每个 skill 页面都提供了申请重新测试的链接,而且所有测试凭据、任务集和保留的回答都已公开。
完整表格:每个 skill 都有单独的页面。
第 015 号报告。
利益披露:我是 Driftproof 的维护者,这些结果由这款开源工具生成。
如需采取进一步行动,你可以考虑屏蔽此人和/或举报滥用行为。