面试知识索引 · 分类、标签与搜索

AI 工程 · 并发编程面试题，3 道完整答案

AI 工程 · 并发编程面试题第 1 页，显示第 1–3 题，共找到 3 道完整解析，可继续按分类、标签与关键词缩小范围。

3筛选结果

52技术分类

178检索标签

1索引分页

快速定位

分类、标签与关键词搜索

清除全部筛选

第 1 页

本页面试问题

按稳定语义路径排序

0001
AI 工程推理与成本
单副本并发上限应如何由目标 SLO 反推，而不是靠压测随意取一个数？
单副本并发上限应如何由目标 SLO 反推，而不是靠压测随意取一个数？本文先给出可直接复述的结论，再用最小代码说明单副本并发上限由 SLO 反推方法的工作方式、判断依据、项目边界和常见误区。
核心关键词单副本并发上限由 SLO 反推方法
#推理与成本#并发编程
0002
AI 工程推理与成本
如何根据模型参数量、层数、上下文长度和并发数估算 KV cache 显存占用并决定最大并发？
如何根据模型参数量、层数、上下文长度和并发数估算 KV cache 显存占用并决定最大并发？本文先给出可直接复述的结论，再用最小代码说明KV cache 显存估算与最大并发确定的工作方式、判断依据、项目边界和常见误区。
核心关键词KV cache 显存估算与最大并发确定
#推理与成本#缓存#并发编程
0003
AI 工程推理与成本
分页注意力（PagedAttention）解决了 KV cache 的什么显存浪费问题，对容量规划意味着什么？
分页注意力（PagedAttention）解决了 KV cache 的什么显存浪费问题，对容量规划意味着什么？本文先给出可直接复述的结论，再用最小代码说明PagedAttention KV cache memory fragmentation的工作方式、判断依据、项目边界和常见误区。
核心关键词PagedAttention KV cache memory fragmentation
#推理与成本#Agent 记忆#缓存

分类、标签与关键词搜索

本页面试问题

单副本并发上限应如何由目标 SLO 反推，而不是靠压测随意取一个数？

如何根据模型参数量、层数、上下文长度和并发数估算 KV cache 显存占用并决定最大并发？

分页注意力（PagedAttention）解决了 KV cache 的什么显存浪费问题，对容量规划意味着什么？

分类、标签与关键词搜索

本页面试问题

单副本并发上限应如何由目标 SLO 反推，而不是靠压测随意取一个数？

如何根据模型参数量、层数、上下文长度和并发数估算 KV cache 显存占用并决定最大并发？

分页注意力（PagedAttention）解决了 KV cache 的什么显存浪费问题，对容量规划意味着什么？