# 集群|计算机基础篇

> 本文系统介绍了计算机集群的基本概念、负载均衡原理及常见算法，包括轮询、加权轮询和最少连接等，帮助读者理解如何通过集群实现高可用和高性能的服务架构。

- 原文：https://feinterview.poetries.top/docs/fe-base-docs/compute-docs/%E9%9B%86%E7%BE%A4
- 来源：前端进阶之旅（feinterview.poetries.top）
- 更新：2026.10.08
- 可见范围：免费部分

---

## 一、负载均衡

- 负载均衡器 = 集群的统一入口：先用算法挑一个节点，再把请求转过去
- 前提是应用节点无状态，会话放 `Redis` 这类共享存储，或者由客户端带着（`JWT`）
- 带来两样东西：高可用（坏一台摘掉，流量转给别的）+ 伸缩性（加机器就加进节点池）
- 靠健康检查维护可用节点列表；新节点要预热，下线节点要先排空连接
- 负载均衡器自己也是单点，要做主备或多实例（比如 `Keepalived` + `VIP`）

**负载均衡就是在一堆机器前面放个「分配员」，每个请求来了由它挑一台机器处理。** 它能成立的前提是后面的机器无状态，同一个用户这次打到 `A`、下次打到 `B` 都没问题，所以登录态不能只放在某台机器的内存里。好处有两个：一台挂了健康检查把它摘掉，用户无感；流量大了往池子里加机器就行。挑哪台由算法决定，轮询、加权、最少连接、`IP Hash` 各有适用场景。别忘了负载均衡器本身也可能挂，生产上一般是主备加虚拟 `IP`。

集群中的应用服务器（节点）通常被设计成无状态，用户可以请求任何一个节点。

负载均衡器会根据集群中每个节点的负载情况，将用户请求转发到合适的节点上。

负载均衡器可以用来实现高可用以及伸缩性：

- 高可用：当某个节点故障时，负载均衡器会将用户请求转发到另外的节点上，从而保证所有服务持续可用；
- 伸缩性：根据系统整体负载情况，可以很容易地添加或移除节点。

负载均衡器运行过程包含两个部分：

1. 根据负载均衡算法得到转发的节点；
2. 进行转发。

## 负载均衡算法

**原理拆解：** 请求先到达负载均衡器，负载均衡算法从当前可用节点集合中选出目标，再由转发层把请求送到该节点。无状态并不是“服务器没有任何数据”，而是处理一次请求所需的会话状态不独占在某台应用节点上；状态可由客户端携带，或存入共享数据库、缓存等外部系统。这样同一用户的后续请求才能安全落到其他健康节点。

**具体实现：** 轮询适合处理能力接近、请求成本相近的节点；加权轮询可让配置更高的节点承担更多流量；最少连接更关注当前并发占用。负载均衡器通常结合健康检查维护可选节点集合：节点连续探测失败后暂时摘除，恢复并通过检查后再加入。扩容时把新节点注册进节点池，缩容时应先停止分配新请求，并给已有连接留出排空时间。

**边界与反例：** 如果登录会话只保存在某台节点的内存中，普通轮询可能让下一次请求丢失会话；可以迁移到共享存储，也可以使用会话亲和，但后者会削弱流量均匀性和故障切换能力。算法看到的连接数也不等同于真实计算压力，长连接、慢请求和高成本任务都可能造成偏差。负载均衡器作为统一入口仍可能成为瓶颈或单点，入口自身的冗余与故障转移需要另行设计。

**工程验证：** 给每个节点的响应加入唯一实例标识，在并发压测中统计请求分布、延迟和错误率；随后停止一个节点，确认健康检查窗口结束后不再出现该标识，并观察失败请求是否符合预期。扩缩容验证还应检查新节点预热、连接排空、超时、重试上限和幂等性，避免一次后端故障被无界重试放大成集群级流量峰值。

- **登录态存在各节点内存里，直接上轮询会怎样？**

  用户登录后下一个请求打到别的节点，就变成未登录了。正解是把 `Session` 放 `Redis`，或者改用 `JWT`；临时救急可以开会话保持，但它会让流量不均、节点挂了照样掉登录。

- **大促前加了三台机器，注册进节点池就能直接扛流量吗？**

  别急着全量。新节点要先过健康检查，`JVM` 这类有预热过程的服务最好慢启动，逐步加权重，不然冷启动那几秒就是一波超时。

- **停了一台机器，还有少量请求打到它上面，算法有问题吗？**

  多半不是算法，是健康检查有间隔和失败阈值，比如 `5s` 探一次、连续 `3` 次失败才摘除，这十几秒内照样会分过去。发布时应该先主动摘流量再停服务。

- **网关后端失败就无限重试换节点，算故障转移吗？**

  不算，这是在放大故障。重试要有上限和超时，只对幂等请求重试，否则一个后端慢了，重试流量能把整个集群拖垮。

- **入口已经有负载均衡器了，是不是就没有单点了？**

  负载均衡器自己就是单点。要么主备加 `VIP` 漂移，要么前面再用 `DNS` 或云厂商的 `SLB` 做多实例。

### 1. 轮询（Round Robin）

- 轮询：维护一个游标，请求来了给游标指的那台，然后游标 `+1`，到底回到第一台
- 均衡的是「请求次数」，不是 `CPU`、耗时这些真实负载
- 适合机器配置差不多、请求耗时也差不多的场景
- 机器性能不一样 → 弱机器先排队；请求有快有慢 → 慢请求扎堆的那台先扛不住
- 轮询本身不知道节点死活，要配合健康检查把坏节点从列表里拿掉

**轮询就是排队发号，`A`、`B`、`C`、`A`、`B`、`C` 这么轮着来。** 实现最简单，一个游标取模就完事，它保证的是每台机器拿到的请求数差不多。问题是它只数次数，不管一个请求是 `10ms` 还是 `10s`，也不管这台机器是 `16` 核还是 `4` 核，所以只适合机器同配置、请求耗时接近的场景。

```js
const nodes = ['A', 'B', 'C']; let i = 0
const pick = () => nodes[i++ % nodes.length]
console.log(Array.from({ length: 7 }, pick).join(' ')) // A B C A B C A
```

轮询算法把每个请求轮流发送到每个服务器上。

下图中，一共有 6 个客户端产生了 6 个请求，这 6 个请求按 (1, 2, 3, 4, 5, 6) 的顺序发送。(1, 3, 5) 的请求会被发送到服务器 1，(2, 4, 6) 的请求会被发送到服务器 2。

<div align="center"> <img src="https://s.poetries.top/cos/202203272126913.png" width="500px"/> </div><br>

该算法比较适合每个服务器的性能差不多的场景，如果有性能存在差异的情况下，那么性能较差的服务器可能无法承担过大的负载（下图的 Server 2）。

<div align="center"> <img src="https://s.poetries.top/cos/202203272126832.png" width="500px"/> </div><br>

**原理拆解：** 轮询调度器维护一个指向下一台服务器的游标。请求到达时选择游标对应的节点，再将游标移动到后继节点；到达列表末尾后回到第一台，因此其时间复杂度通常为 `O(1)`。只要节点列表不变，连续请求就会形成可预测的循环序列。它均衡的是调度次数，而不是每个请求消耗的 `CPU`、内存、网络带宽或处理时间。

**最小验证：** 假设节点列表为 `[A, B, C]`，初始游标指向 `A`，七个请求的分配结果依次是 `A、B、C、A、B、C、A`，计数为 `3:2:2`；继续发送到第九个请求后，三台节点均得到三个请求。由此可见，短时间窗口内允许最多一次左右的数量差异，完整轮询周期内才会表现为请求数相等。

**边界与反例：** 若 `A` 每秒能处理 `100` 个请求，而 `B` 只能处理 `20` 个，二者仍各收一半请求，`B` 会更早出现排队和超时。即使机器性能相同，一个耗时 `10 ms` 的请求和一个耗时 `10 s` 的请求也被视为同一次分配，所以慢请求集中时仍会失衡。轮询本身也不能证明节点可用；节点退出后是否剔除、恢复后何时加入，取决于轮询之外的节点管理机制。

**工程验证：** 压测时应同时观察各节点请求计数、响应时间、错误率、队列长度和资源利用率。若请求计数接近但某节点的延迟、积压或利用率持续偏高，说明调度次数均匀而工作量并不均匀。还应验证节点列表变化时游标是否仍落在有效范围，并用多轮连续请求确认分配序列与配置中的节点顺序一致。

- **三台机器请求数 `1:1:1`，但有一台一直超时，能说跟调度无关吗？**

  不能，轮询均衡的只是次数。那台可能配置低，或者正好分到了一批慢请求，得看各节点的延迟、队列和 `CPU`，光看请求数说明不了问题。

- **发了 `7` 个请求，分布是 `3:2:2`，轮询是不是坏了？**

  没坏，`A B C A B C A` 正好是 `3:2:2`。一个完整周期没走完时差一个很正常，发到 `9` 个再看。

- **一台机器下线了，轮询还每隔几次打到它，问题出在哪？**

  轮询算法不负责判断节点死活。要查健康检查有没有把它摘掉，以及节点列表变化后游标会不会落到失效的位置。

- **`A` 的性能是 `B` 的五倍，两台都要保留，还用普通轮询吗？**

  不用，普通轮询会让 `B` 分到一半流量先被压垮。改加权轮询，按 `5:1` 配权重。

### 2. 加权轮询（Weighted Round Robbin）

- 加权轮询：给机器配权重，强的权重大，一个周期里被选中的次数和权重成正比
- 权重 `5:1` → 每 `6` 个请求 `A` 拿 `5` 个、`B` 拿 `1` 个
- 简单实现是 `AAAAAB` 连着发；`Nginx` 用的是平滑加权轮询，`B` 会穿插在中间
- 适合机器性能不同、请求成本差不多的场景
- 权重是静态配置，机器降频、长任务扎堆时它不会自己调整

**加权轮询是在轮询上加了权重，让配置高的机器多干活。** 权重 `5:1` 就是每 `6` 个请求里 `5` 个给 `A`、`1` 个给 `B`。最笨的实现是连发 `5` 个给 `A` 再给 `B`，这样 `A` 会被瞬间集中打一波，所以 `Nginx` 用平滑加权轮询：每轮给每个节点的当前值加上自己的权重，选当前值最大的，然后把它减去总权重，结果比例不变但请求是穿插分布的。它的局限和普通轮询一样，只管请求数量，不感知实时负载。

```js
const ns = [{ n: 'A', w: 5, cur: 0 }, { n: 'B', w: 1, cur: 0 }]
const total = 6, out = []
for (let i = 0; i < 6; i++) {
  ns.forEach(x => (x.cur += x.w))
  const best = ns.reduce((a, b) => (b.cur > a.cur ? b : a))
  best.cur -= total; out.push(best.n)
}
console.log(out.join('')) // AAABAA，B 被穿插在中间
```

加权轮询是在轮询的基础上，根据服务器的性能差异，为服务器赋予一定的权值，性能高的服务器分配更高的权值。

例如下图中，服务器 1 被赋予的权值为 5，服务器 2 被赋予的权值为 1，那么 (1, 2, 3, 4, 5) 请求会被发送到服务器 1，(6) 请求会被发送到服务器 2。

<div align="center"> <img src="https://s.poetries.top/cos/202203272126698.png" width="500px"/> </div><br>

**原理拆解：** 加权轮询为每个节点配置正权重，并让节点在一个调度周期内获得与权重成比例的请求份额。权重不是处理速度的自动测量值，而是调度配置对节点相对承载能力的表达。若 `A、B、C` 的权重为 `4:2:1`，理想周期包含七次选择，长期请求数量应接近 `4:2:1`；具体选择是连续还是交错，取决于实现，但周期份额不变。

**最小验证：** 当 `A:B=5:1` 时，连续 `12` 个同类请求的目标计数应为 `10:2`。一种直接序列是 `A、A、A、A、A、B` 重复两次；若采用更平滑的排列，`B` 可能穿插在周期中间，但最终比例仍应接近 `5:1`。小样本可能因周期尚未完成而偏离配置，不能只根据两三个请求判断权重是否生效。

**边界与反例：** 权重适合表达服务器性能差异，前提是请求成本大致相近。若高权重节点连续收到大文件上传或长时间计算任务，而低权重节点收到的都是轻量请求，请求数符合比例也不代表实时压力符合比例。静态权重还可能在机器降频、共享资源争用或容量变化后失真；加权轮询自身不根据当前连接数自动修正这些差异。

**工程验证：** 使用足够大的同构请求样本，按节点统计命中次数，并比较实测比例与配置比例；同时核对延迟、错误率、活跃连接数和资源利用率。若计数比例错误，应检查权重是否被正确加载、节点列表是否重复以及多个调度器实例是否使用一致配置；若计数比例正确但负载失衡，应进一步确认请求耗时分布和节点实际处理能力是否满足算法前提。

- **权重 `5:1`，测试要求任意连续 `6` 个请求都是 `5` 和 `1`，合理吗？**

  不合理，权重保证的是一个周期或长期样本里的比例，不是任意滑动窗口。平滑实现中 `B` 的位置会变化，要用足够多的请求统计比例。

- **`4:2:1` 配好了，压测比例明显不对，先查什么？**

  先查配置有没有真的生效、节点列表有没有重复项，多个负载均衡实例的配置是否一致。这些都没问题再去怀疑算法实现。

- **高权重机器降频了，加权轮询会自动少给它流量吗？**

  不会，权重是写死的配置，不是测出来的。机器状态变了得人去改权重，或者换成能感知实时负载的算法。

- **比例完全对，但高权重那台一直在积压大文件上传，要继续加权重吗？**

  别加，那会更糟。它的问题是长任务扎堆，不是分到的请求数少了，这种场景该看活跃连接，换加权最少连接更合适。

- **新加一台高配机器直接给最高权重，结果错误率上来了，怎么区分原因？**

  先看它分到的比例是否符合权重，比例对但延迟和报错高，就是它还没准备好，比如没预热、依赖没连上。应该从低权重开始逐步调上去。

### 3. 最少连接（least Connections）

- 最少连接：新请求给当前活跃连接数最少的那台
- 看的是「此刻还没结束的连接」，不是历史上分过多少个
- 解决轮询的痛点：有的请求秒断、有的连着不走，轮询会让某台的存量连接越积越多
- 需要可靠地维护计数：建立 `+1`，正常关闭、超时、异常断开都要 `-1`
- 连接数只是负载的近似，一个连接跑重任务、机器性能不同，它都看不出来

**最少连接就是谁手上活少就给谁，「活」用当前活跃连接数来衡量。** 轮询的问题是只管发，不管请求什么时候结束，长连接和短连接混在一起时，某台机器可能积了一堆没断的长连接还在继续被分新请求。最少连接每次都看实时数字，短连接一释放，那台机器马上就能接到新活。前提是计数要准，异常断开没扣减的话，调度器会一直以为那台机器很忙。`Nginx` 里写一行 `least_conn;` 就能开。

---

> 以上是免费部分。完整内容需要「前端进阶之旅」会员，原文：https://feinterview.poetries.top/docs/fe-base-docs/compute-docs/%E9%9B%86%E7%BE%A4
