Copilot支持本地模型,仍需核查云端数据流
文章指出,Copilot Fusion的实验性本地模型路由仍涉及云端,不能据此认定会话可完全离线。直接选择本地模型与自动混合路由属于不同配置,还需分别检查请求哪些部分会离开设备。
AI 深度解读
GitHub 在 10 月 28 日宣布将本地模型接入 Copilot Fusion 的实验性路由预览,但作者提醒:模型在设备上运行,不代表整个会话离线,GitHub 也明确表示会话仍使用云端路由。
这对挑选 AI 编程工具、搭建内部知识助手的团队很实用。真正该核查的是搜索、上下文获取、模型选择和工具调用分别发生在哪里,以及哪些内容可能离开设备。
选了本地模型,为什么还不能叫离线
本地推理只回答一个问题:模型在哪里执行。它没有回答请求是否需要先交给外部服务选择模型,也没有回答检索上下文、调用工具或后续对话是否依赖网络。
GitHub 此次公告涉及 Copilot CLI、Copilot app 和 VS Code,但托管 Windows 配置与手动配置提供方的接入方式存在差异。直接选择本地模型,以及让 Fusion 在本地和云端模型之间选择,也属于两种不同的运行安排。
Fusion 会在运行时选择模型和执行方式。本地模型选择是与 Fusion Standard 关联的预览能力,而且需要主动加入实验性路由预览。模型出现在选择器里,也不能据此认定它能参与智能本地路由,仍要核对具体产品入口和配置模式。
本地模型描述的是计算位置,离线描述的是整个任务对外部服务的依赖。
因此,判断工作流是否符合要求,不能只看最终回答所用的模型名称。请求可能在生成答案之前,就已经越过预期边界。
不过,存在云端路由,也不足以证明产品发送了哪些具体字段。原文没有给出 Copilot 的完整传输明细,不能自行补上「所有内容都会上传」或「只有路由信息离开设备」这样的结论。
本地档案库,怎样把在线分析的边界讲清楚
作者引用的 Illumia 档案案例,把几个容易混淆的环节拆开了:应用使用 PostgreSQL 在本地存储和搜索服务记录;Claude Desktop 连接提供 6 个范围受限、只读的检索工具;在获得组织批准的情况下,选定证据可以发送给在线 Claude。
它没有把整个 AI 工作流称为离线。
这里至少有三种不同要求。第一种是本地搜索并展示记录,第二种是只把经过批准的选定内容交给在线助手,第三种是整个任务完全不依赖外部服务。三者的验收方法不同,不能用一句「支持本地 AI」包办。
其中,第三种是作者提出的设计标准,原文没有声称 Illumia 已经实现了这种模式。
案例的验证范围同样需要看清:打包和启动使用合成记录测试过,真实档案的检索相关性,以及受管理设备能否接受这套应用,仍是后续独立步骤。
应用能启动,不等于它能从真实资料里找到正确证据;检索工具只读,也不等于检索结果不会被发送出去。这些限制需要分别描述。
用两条虚构记录,检查边界是否真的成立
作者给出了一套可以复现的验证方法,但没有提供完整的实测结果。
先建立一个可丢弃的小档案库,放入一个虚构案例,并在工作备注中加入独特、无害的标记。再放入第二个无关案例,让它处于本次选择范围之外。随后提出一个必须依靠第一条备注才能回答的窄问题。
这样既能检查系统是否拿到了必要证据,也能检查它有没有顺手捞入无关记录。
记录当前配置后,先查看交给在线服务之前的检索结果,再使用测试环境正常的应用诊断和网络诊断观察请求路径。诊断日志也要控制范围,把整段提示词复制进另一套日志系统,可能又多出一个不希望出现的数据去向。
接着,让外部服务在这个测试环境中不可用,观察本地搜索是否还能展示来源,以及助手会清楚报错,还是一直等待。
如果要求是完全离线,外部路由依赖就足以让这项验收不通过,即使最终推理原本准备在本机执行。
一次测试不能证明所有后续请求都会走相同路径。配置或模型发生重要变化后,需要重新验证,并覆盖团队实际要支持的任务变化。连接日志能暴露依赖,却不能单独证明请求的全部内容或服务方如何处理数据,还要结合产品文档。
我的判断
作者最有价值的提醒,是把采购问题从「有没有本地模型」推进到「这条任务路径是否符合要求」。这个判断成立,而且可以落到验收上。
但文章更接近架构审查方法,不能拿来当产品横评。作者没有给出混合路由与完全隔离方案在效果、延迟、成本上的对照数据,也没有展示上述断网实验的完整结果。混合路由更方便使用多种模型能力、隔离方案需要自行维护更多组件,属于合理的工程判断,具体代价仍需团队测量。
原文还披露,文章由 AI 生成并核查,通过自动化流程发布,未经 Keith 审阅。阅读时尤其要分清产品公告、案例已完成事项和作者提出的验证建议。
如果组织允许选定材料进入在线服务,清楚描述交接过程的混合方案可以成立;如果禁止外部联系,就应把隔离作为经过测试的架构条件。两者适用的约束不同。
能拿来做什么
- 给团队评估 Copilot CLI、Copilot app 或 VS Code 配置时,分别记录模型选择方式、路由方式和外部依赖,把完全离线要求写成可验证的验收条件。
- 做内部知识助手时,在在线交接前检查实际检索结果,确认回答所需证据齐全,同时排除选择范围之外的记录。
- 用带独特标记的合成资料演练请求路径和外部服务不可用的情况,并检查报错是否让使用者知道任务已经停止。
- 在模型或关键配置变化后重复验证,把网络观察与对应文档一起保存,避免用一次连接测试替所有后续请求作保证。