# 容量

> 公共部署的默认限制。

规范地址: https://keta1930.github.io/icml2026-mcp/zh/docs/operations/capacity



| 限制           |                 默认值 |
| ------------ | ------------------: |
| 活跃会话         |               4,096 |
| 搜索队列         |                 512 |
| DashScope 调用 |               64 并发 |
| Milvus 调用    |               32 并发 |
| 单 IP         | 600 请求/分钟，burst 100 |
| 应用全局速率       |         6,000 请求/分钟 |
| 供应商速率        |        24,000 请求/分钟 |
| 供应商输入        |  1,000,000 token/分钟 |

这些默认值面向约 25–40 名同时使用、查询较短的用户。Nginx、应用和供应商用量是三层独立控制。继续提高限制前，应观察队列等待、供应商延迟、Milvus 延迟、SQLite 锁等待和内存占用。
