高并发服务如何通过背压、限流与负载卸载避免过载雪崩?
简答题中等326 次浏览
参考答案与解析
# 核心结论
高并发系统避免过载雪崩的原则,是在容量边界内持续完成最有价值的请求,而不是让所有请求都进入系统。背压负责把下游饱和信号向上游传播,使生产速度能够下降;限流负责约束某个资源边界内的请求速率或并发量;负载卸载则在关键资源耗尽前主动拒绝、降级或丢弃低优先级工作。三者必须与有界队列、端到端截止时间、重试预算、隔离和容量预留共同工作,否则过载可能从一个节点沿调用链扩散。
# 底层机制
当请求到达速率长期超过服务速率时,队列会持续增长。即使到达速率只是逼近容量上限,排队时间和尾延迟也可能非线性上升。请求停留时间变长后,会占用更多连接、线程、内存、文件描述符和数据库会话;客户端超时后再次重试,又会制造额外流量,形成“变
