部署与运维
容量
公共部署的默认限制。
| 限制 | 默认值 |
|---|---|
| 活跃会话 | 4,096 |
| 搜索队列 | 512 |
| DashScope 调用 | 64 并发 |
| Milvus 调用 | 32 并发 |
| 单 IP | 600 请求/分钟，burst 100 |
| 应用全局速率 | 6,000 请求/分钟 |
| 供应商速率 | 24,000 请求/分钟 |
| 供应商输入 | 1,000,000 token/分钟 |
这些默认值面向约 25–40 名同时使用、查询较短的用户。Nginx、应用和供应商用量是三层独立控制。继续提高限制前，应观察队列等待、供应商延迟、Milvus 延迟、SQLite 锁等待和内存占用。