高并发服务如何通过背压、限流与负载削减避免级联故障

# 核心结论

高并发服务要避免级联故障，关键不是无限接收请求，而是让进入系统的有效工作量始终受容量约束。背压负责把下游拥塞反馈给上游，使生产速度下降或暂停；限流决定单位时间或同一时刻允许多少工作进入；负载削减则在容量不足时主动拒绝、丢弃或降级低价值及已经过期的请求。三者共同维持有界队列、可控尾延迟和恢复余量，防止线程、连接、内存、处理器以及下游依赖被依次耗尽。

当请求到达速率长期高于服务速率时，队列必然增长。无界队列没有消除过载，只是把及时拒绝推迟成高延迟、内存耗尽和超时风暴。可靠系统必须明确并发上限、队列容量、请求期限、优先级及拒绝策略，并使压力能够沿调用链传播。

# 底层机制

限流可以约束速率，也可以约束并发。令