上下文后台预热如何缩短 IDE 首次响应

将浏览器助手或 IDE 扩展接入本地智能桥接服务时，延迟至关重要。如果生成 prompt 上下文需要 4 到 5 秒，开发者就会放弃使用这项集成。

为了实现不到一秒的响应，TokenCap 在 src/bridge/warmCache.js 中实现了后台缓存预热。

预热如何运作

运行 tokencap serve 后，HTTP 服务器会立即开始监听。在配对握手进行的同时，一个异步 worker 会启动以下工作：

图谱预编译：遍历所有文件，将 AST 符号表加载到内存中。

Memory 与 ADR 索引：将活跃会话记录和架构决策加载到 RAM 中。

Git Diff 快照：缓存工作区中尚未提交的 diff，以及受影响的符号。

// src/bridge/warmCache.js logic
function preWarmBridgeContext(repoRoot) {
  setImmediate(() => {
    // Builds query-independent artifacts concurrently
    const graph = getOrBuildGraph(repoRoot);
    const memory = loadActiveMemory(repoRoot);
    const diff = computeWorkingDiff(repoRoot);
    bridgeCache.set(repoRoot, { graph, memory, diff, timestamp: Date.now() });
  });
}

响应时间对比

冷生成（未预热）：1,840ms

使用预热缓存：180ms（首次点击的响应速度提升 10 倍）

当 Chrome Companion 通过 POST /generate 请求特定任务的上下文时，TokenCap 会从预热后的图谱中提取所需部分，并格式化 prompt 载荷，几乎瞬间就能完成。

文档见 tokencap.vansharora.app

如需采取进一步措施，可以考虑屏蔽此人和/或举报滥用行为。