速率限制

配额取决于您的计划、模型路线和商业协议。此项目中未发布数值 RPM、TPM 和并发限制。

处理 429 条回复

尊重Retry-After提供时。对工作进行排队、限制并发并应用带抖动的有界指数退避。避免同步重试突发。

增长提供更高的配额和优先级路由。企业客户可以请求专用容量。在负载测试之前确认实际限制。