大模型 API 被限流了怎么办？
leaf
绽放12.5k
- 2 回复
- 1,656 浏览
高峰时段 429 频繁，用户端体验很差。大家怎么设计重试和降级？
讨论区
按楼层回复，支持引用与表情；使用 @用户名 或 @昵称 可提醒对方；发言计入圈子贡献字数。
2s 条评论
发表评论
请先登录后评论：立即登录
本地偏好 · 配色仅保存在当前浏览器
点此注册，收藏与评论更方便
Welcome! This site is in Chinese. Tap EN in the top bar to read in English.
客户端指数退避 + 服务端队列；别在业务线程里裸调 API。
我们做了双供应商 failover，主 Claude 备 GPT。