前端进阶之旅前端进阶之旅
基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
知识卡片
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
  • AI 助手随时提问,即时解析
  • AI 模拟面试模拟真实面试 + 报告
  • AI 知识地图串起全站知识点
  • AI 定制路线按你的简历现排
AI 热点
旧版
基础篇
进阶篇
高频篇
精选篇
手写篇
面经篇
AI 篇
原理篇
每日一题
小程序题库
知识卡片
  • 场景篇按分类整理的大前端场景考点
  • 历年面经按年份追踪真实考点
  • 算法题库NEW在线编码即时判题
  • 专项自测100 题快速查漏
  • 前端基础
    • HTTP从报文一路讲到 HTTPS
    • 浏览器渲染、事件循环、进程
    • 计算机基础Linux、网络、操作系统
  • 进阶专项
    • 设计模式23 种模式怎么用
    • 前端系统进阶学习大型项目工程化
    • 前端综合文章长期沉淀的实践文
  • 工程与工具
    • Node学习指南从环境搭建到服务端
    • NPM工作流script、依赖与发布
    • Docker容器化部署上手
    • Canvas图形与动画实战
  • 路线与导图
    • 思维导图知识点全景图
    • 学习路线按图索骥不跑偏
  • 动态
    • 公众号动态公众号历史文章
    • 博客动态站长的技术博客
    • 开发者导航常用工具与文档站
  • AI 助手随时提问,即时解析
  • AI 模拟面试模拟真实面试 + 报告
  • AI 知识地图串起全站知识点
  • AI 定制路线按你的简历现排
AI 热点
旧版
返回 AI 情报前线
All News · 全部资讯10195
  • 训练数据权限如何随流水线变换传播
  • 用 AI 在 PR 中自动补齐架构决策记录
  • 用故障注入检验 AI 补丁的测试有效性
  • MiniMax新模型主打百万上下文与低价
  • 前端 PR 审查如何分配给 AI 与人
  • OpenCode 托管密钥疑泄露,影响部分用户
  • MiniMax 新模型降低编程与 Agent 成本
  • OpenAI补强小众语言编程能力与评测
  • AI 接口上线必备:限流、重试与降级
  • Blender AI 插件如何闭环执行代码
  • 用 CLAUDE.md 统一团队 AI 编程规范
  • 用金丝雀标记检测大模型信息泄露
  • 从基础到部署的大模型学习路线
  • 六块 AI 电路板实测:规则通过仍可能出错
  • 用Cloudflare为浏览器扩展接入限额AI
  • 把编程 Agent 的项目决策写进文件与 CI
  • 99.7% 召回率背后:花朵计数的评测盲点
  • 用代码知识图谱辅助编程智能体检索
  • 英伟达开放 Run:ai GPU 编排平台源码
  • 从百万行代码实验看工程师如何驾驭智能体
  • 热门智能体技能实测:安装量不等于效果
  • 让 AI 写对 SQL,要补齐哪些上下文
  • 智能体记忆评测:召回高不代表答得对
  • 语音智能体上线,先验证业务结果
  • Mistral推出可在CPU运行的时序预测模型
  • Mercury 3 接入 Vercel,主打低延迟推理
  • Vercel 网关限时免费接入 M3.1 Flash
  • 谷歌开源可持续优化的智能体框架
  • HybridAgent探索潜空间推理与文本行动
  • JetBrains将构建决策编译进神经网络
  • MiniMax 更新 M3.1 Flash,主打提速降本
  • 多 Agent 并行开发,数据库也要隔离
  • 用 Cursor 写 .NET,先约束常见隐患
  • DeepSeek 端点换模后的缓存成本核算
  • GitLab 五类 Agent 接手交付流水线实测
  • 让告警直接支持故障判断与处置
  • AI 生成应用的数据库权限排查
  • vLLM 内核融合让 Kimi K3 推理提速
  • 退款模拟测试暴露智能体越权与消息轰炸
  • DeepSeek 搜索抓取接口公布按次收费
  • EdenLive开源:单卡运行交互式世界模型
  • 从合并记录推断分支,让编程 Agent 自助选路
  • 用 Spring AI 构建带权限控制的 MCP 服务
  • 给编程 Agent 建代码图谱,减少重复搜索
  • 用 Claude Code 搭建按指令选段的视频工具
  • 用代码关系图定位维护者流失风险
  • 多智能体协作需要一个专门质疑的角色
  • Taste-Bench揭示代理长期决策短板
  • 六款代理追讨退款失败,还泄露健康信息
  • 谷歌开源可在测试时改写执行框架的 Harness2
  • 给 AI 文档加一道可追溯性检查
  • 已加载 51 / 10195
8.0
热点
AI SCORE
编程提效2026-10-19 10:43

热门智能体技能实测:安装量不等于效果

dev.to · AI#Agent#技能评测#开发工具
Editor brief · 编辑速览

作者对安装量前 20 的技能进行启用与禁用对照,报告其中 11 个在两款回答模型上均有帮助,部分技能反而降低评分。安装量第一的 find-skills 表现下降,但测试仅评价其文字回答,未覆盖后续技能调用收益。

文章思维导图
Knowledge map
拖拽缩放
Full translation

完整中文译文

skills.sh 按安装量为 Agent skill 排名。安装量能说明一个 skill 很受欢迎,却不能说明它是否改变了 Agent 实际写出的内容。

因此,我们从 10 月 17 日的 skills.sh 快照中选取了排名前 20 的 skill,让每个 skill 在相同任务上分别接受两组测试:一组加载 skill,另一组不加载。负责回答的两个模型是 Claude Sonnet 5.5 和 Claude Opus 5.5,评判模型是 Claude Haiku 5.5。一共得到 40 项结果。

20 个 skill 中,有 11 个在两个模型上都带来了明确改善。

安装量排名第一的 find-skills(vercel-labs/skills),在两个模型上都造成了明确退步。两次都是同一个搜索请求任务出了问题:加载 skill 后,回答得分约为 0.75;不加载时,得分则在 0.92 到 0.95 之间。find-skills 是一个路由 skill,负责引导 Agent 使用其他 skill。我们测试的是它写出的回答,而不是它转交任务后调用的那些 skill。

reddit-automation(flowkit-labs/skills):在排序任务上,两个模型都出现了明确退步;在回复任务上,Sonnet 也出现了明确退步。

grill-with-docs 和 hyperframes:仅在 Sonnet 上出现了明确退步。

hyperframes-registry(heygen-com/hyperframes):Sonnet 的得分从不加载时的 0.43 提升到加载后的 0.98;Opus 则从 0.62 提升到 0.97。

prototype(mattpocock/skills):Opus 的得分从 0.36 提升到 0.93。

triage(mattpocock/skills):加载 skill 后,两个模型都拿到了 1.00 的满分;不加载时,得分约为 0.7。

无法下结论的结果

40 项结果中,有 10 项被判定为“回答样本不足,无法判断”。grill-me、tdd,以及 Anthropic 自己的 frontend-design,在两个模型上都属于这一类。

这不等于“没有效果”。它的意思是,即使每组最多生成了 10 次回答,不同次生成之间的回答差异仍然太大,无法判断 skill 究竟带来了改善还是退步。我们宁愿如实写出无法判断,也不愿公布一个重新运行就可能翻转的数字。

对于每个 skill,我们都根据它自身的描述和 README 编写了三个文本任务,并在所有测试开始前固定下来。

每个任务都分别在加载和不加载 skill 的情况下生成回答,每组生成 3 到 10 次,每个回答评分 5 次。

“明确改善”的定义是:至少有一个任务的两组得分区间(均值加减一个标准差)互不重叠,且差距至少为 0.05,同时没有任何任务出现明确退步。只要有一个任务出现明确退步,就优先据此判定,即便其他任务有所改善。

每个 skill 只测试三个纯文本任务,任务由我们编写,而非 skill 作者编写。测试不涉及工具调用、生成的媒体内容或已部署的服务。

这里所说的受欢迎程度,依据的是平台报告的安装量,并不代表质量。

如果你认为某个任务不公平,或者某项结果有误,每个 skill 页面都提供了申请重新测试的链接,而且所有测试凭据、任务集和保留的回答都已公开。

完整表格:每个 skill 都有单独的页面。

第 015 号报告。

利益披露:我是 Driftproof 的维护者,这些结果由这款开源工具生成。

如需采取进一步行动,你可以考虑屏蔽此人和/或举报滥用行为。

Original source

本文由 AI 翻译整理自 dev.to · AI,原文版权归原作者所有。

阅读英文原文
上一篇
从百万行代码实验看工程师如何驾驭智能体
下一篇
让 AI 写对 SQL,要补齐哪些上下文