#限流

多 key 多模型怎么优雅地轮流试：LLM 供应商故障转移是怎么实现的

把同一个请求在 3 个 key 之间轮询、遇到特定错误跳过熔断、整组限流就停 30s——这套机制是 LLM 代理的「心脏」。源码解读 + 你自己的代理可以怎么照搬。