Grok API

Grok AI 请求限制 — Grok API 速率限制

更新于:

处理 Grok API 429 错误、gateway 保护限制，以及高负载下的建议。

Grok API Dev 限制如何运作

限制生效范围具体表现
单独的 API key限流可以只作用于某个 key，而不影响其他 key。
同时发出的请求一组并行的高资源请求可能让该 key 收到 429。
Gateway 整体负载流量高峰期间，gateway 可能暂时减慢或拒绝新请求。
大型文件和多模态输入带有大型附件的请求可能比普通文本请求受到更严格的限制。

我们不公布严格的 RPM/TPM 限制表。实际限流取决于 API key、并发、请求大小和 gateway 当前负载。

如果需要持续高吞吐量，请联系支持并说明流量模式。

与支持团队讨论负载 ↗

如何处理 HTTP 429

429 响应中的主要外部信号是 Retry-After 请求头，它说明再次尝试前需要等待多少秒。不要立即重试，否则会再次形成流量突发，并可能延长限流。

响应示例

HTTP
HTTP/1.1 429 Too Many Requests
Content-Type: application/json
Retry-After: 8

{
  "error": {
    "message": "Rate limit exceeded. Please retry later.",
    "type": "rate_limit_error",
    "code": "rate_limit_exceeded"
  }
}

error 文本和字段可能不同。客户端逻辑应优先依据 HTTP 429 与 Retry-After，而不是 message 的具体措辞。

  1. 1使用队列或 semaphore 限制并发。
  2. 2服务器返回 Retry-After 时遵循该值。
  3. 3没有 Retry-After 时逐次增加延迟并添加随机 jitter。
  4. 4限制尝试次数；持续 429 应进入监控，而不是无限循环。