> ## Documentation Index
> Fetch the complete documentation index at: https://veniceai-mintlify-de47a659.mintlify.site/llms.txt
> Use this file to discover all available pages before exploring further.

# 速率限制

> Venice API 各等级的速率限制、用于显示容量的响应头，以及如何处理 429 错误。

速率限制因模型和等级而异。下面的默认限制是有用的参考，但 `/api_keys/rate_limits` API 端点是获取您当前限制的权威方式。您可以随时查看您的确切限制：

<CardGroup cols={2}>
  <Card title="查看您的限制" icon="gauge-high" href="/zh/api-reference/endpoint/api_keys/rate_limits?playground=open">
    交互式 playground
  </Card>

  <Card title="速率限制日志" icon="clock-rotate-left" href="/zh/api-reference/endpoint/api_keys/rate_limit_logs?playground=open">
    查看哪些请求达到了限制
  </Card>
</CardGroup>

```bash theme={null}
curl https://api.venice.ai/api/v1/api_keys/rate_limits \
  -H "Authorization: Bearer $VENICE_API_KEY"
```

## 默认限制

### 文本和嵌入模型

文本和嵌入模型按规模分为四个等级。[模型页面](/zh/models/text)上的每个模型卡片都会显示其等级徽章。所有嵌入模型均为 XS。

| 等级 | 请求/分钟 | Tokens/分钟 | 合作伙伴请求/分钟 | 合作伙伴 Tokens/分钟 |
| :- | ----: | --------: | --------: | -------------: |
| XS |   500 | 5,000,000 |       500 |     10,000,000 |
| S  |   150 | 3,000,000 |       300 |      6,000,000 |
| M  |   100 | 2,000,000 |       200 |      4,000,000 |
| L  |   100 | 2,000,000 |       150 |      3,000,000 |

<Note>
  部分模型运行在专用或第三方基础设施上，其限制并不对应这四个等级。请调用 [`GET /api_keys/rate_limits`](/zh/api-reference/endpoint/api_keys/rate_limits) 获取您的密钥上每个模型的权威限制。
</Note>

### 图像和音频模型

| 类型       | 请求/分钟 | 合作伙伴请求/分钟 |
| :------- | ----: | --------: |
| 图像、放大、修复 |    20 |        60 |
| 语音和转录    |    60 |       120 |

### 视频和音乐模型

视频和音乐生成不受速率限制。两者均按每次生成从您的积分余额中计费，因此实际的约束是成本而非请求上限。请先使用 [`POST /video/quote`](/zh/api-reference/endpoint/video/quote) 或 [`POST /audio/quote`](/zh/api-reference/endpoint/audio/quote) 对任务进行估价。

## 处理错误

失败的请求（500、503、429）应使用指数退避进行重试。

对于 429 错误，请查看 `x-ratelimit-reset-requests` 响应头以获取您可以重试的确切 Unix 时间戳。大多数 HTTP 库都内置了自动处理此情况的重试机制。

### 错误预算

另有两个限制用于保护 API，防止客户端反复重试撞墙。两者均按每个 API 密钥、每个模型在滚动的 30 秒窗口内计数，并且都会返回 `429`：

| 预算        |           阈值 | 适用范围                             |
| :-------- | -----------: | :------------------------------- |
| 失败请求      |  每 30 秒 50 次 | 所有端点                             |
| 不受支持的功能请求 | 每 30 秒 200 次 | `/chat/completions`、`/responses` |

第二个预算统计的是向模型请求其不支持的功能的请求。例如，向不具备视觉或工具调用能力的模型请求这些功能。超出任一预算都会在[速率限制日志](/zh/api-reference/endpoint/api_keys/rate_limit_logs)中显示为 `FAILED_REQUESTS` 或 `UNSUPPORTED_FEATURE_REQUESTS`。

两者都会返回一个 `customMessage`，指明触发的阈值：

```
Too many failed attempts (> 50) resulting in a non-success status code. Please wait 30 seconds and try again. See https://docs.venice.ai/api-reference/rate-limiting for more information.
```

这些响应会设置 `x-ratelimit-remaining` 和 `x-ratelimit-resets`，而非下面的按窗口计算的响应头。

## 响应头

每个响应都包含以下响应头：

| 响应头                              | 说明               |
| :------------------------------- | :--------------- |
| `x-ratelimit-limit-requests`     | 当前窗口内允许的最大请求数    |
| `x-ratelimit-remaining-requests` | 当前窗口内剩余的请求数      |
| `x-ratelimit-reset-requests`     | 窗口重置时的 Unix 时间戳  |
| `x-ratelimit-limit-tokens`       | 每分钟允许的最大 token 数 |
| `x-ratelimit-remaining-tokens`   | 当前分钟内剩余的 token 数 |
| `x-ratelimit-reset-tokens`       | 距 token 限制重置的秒数  |

`/crypto/rpc/{network}` 端点使用自己的限制以及自己的 `X-RateLimit-Limit`、`X-RateLimit-Remaining` 和 `X-RateLimit-Reset` 响应头，这些响应头仅在 429 响应中设置。详情请参阅 [Crypto RPC](/zh/api-reference/endpoint/crypto/rpc)。

## 合作伙伴等级

合作伙伴限制已与默认限制一并列在上面的表格中。

如果您持续达到速率限制，并且您的使用模式显示出**长期的持续需求**，请联系我们讨论合作伙伴访问权限：[api@venice.ai](mailto:api@venice.ai)。

合作伙伴等级的限制可根据您的具体需求进行调整。