怡
怡途科技
Case Studies
Blog
AI Classroom
About
  1. 首页
  2. 博客
  3. #429
返回博客

#429

共 1 篇相关文章

400 错误跨 3 个 key 各烧一遍 token?扒一下 llm-proxy 的错误分类和重试策略
产品文档

400 错误跨 3 个 key 各烧一遍 token?扒一下 llm-proxy 的错误分类和重试策略

同一份请求,3 个 API key 排队 400 失败 3 次才告诉你请求体有问题,白白消耗 3 份 token。429 限流时又密集轮询 3 个 key 把上游打爆。扒 model-router.service.ts:classifyError 把上游错误分成 9 类,bad_request 硬拦截不重试、rate_limit 走 1/2/4s 阶梯 + provider 停用 60s 起指数封顶 5 分钟,以及为什么 billing_error 要整组停用而不是只换一个 key。

2026年8月27日47 分钟
怡
怡途科技

Enterprise AI Data Analytics, Agent Management & Customer Service Platform

Products

  • Yitu AI Analytics
  • YituClaw
  • Pricing
  • Compare Products

Solutions

  • Data Analytics
  • AI Agent Deployment
  • Enterprise
  • Finance
  • Retail
  • Government & SOE
  • Education
  • Manufacturing

Company

  • About
  • Case Studies
  • Press
  • Blog
  • AI Classroom
  • AI Glossary
  • FAQ
  • Contact

Legal

  • Privacy Policy
  • Terms of Service

© 2026 YituTech. All rights reserved.

Privacy PolicyTerms of Service滇ICP备18004357号-1