速率限制

配額取決於您的計劃、模型路線和商業協議。此項目中未發布數值 RPM、TPM 和並發限制。

處理 429 則回复

尊重Retry-After提供時。對工作進行排隊、限制並發並應用帶有抖動的有界指數退避。避免同步重試突發。

成長提供更高的配額和優先權路由。企業客戶可以請求專用容量。在負載測試之前確認實際限制。