性能
中位输出速度
模型每秒生成的中位输出 token 数,数值越高越好。
服务商对比
在 OpenRouter 查看同一个模型可以由多家服务商托管,价格、稳定性和速度各不相同。按输出价格从低到高排列。
| 服务商 | 输入 / 输出(每 100 万 tokens) | 1 天在线率 | 延迟 | 速度 | 最大输出 |
|---|---|---|---|---|---|
GMICloud bf16 · bf16 量化 · 总部 US · 机房 US | $0.326 / $0.653 | 100% | 3.37 秒 | 36 tokens/秒 | 945K |
DeepInfra fp8 · fp8 量化 · 总部 US | $0.387 / $0.783 | 100% | 0.92 秒 | 36 tokens/秒 | 943,718 |
Xiaomi fp8 · fp8 量化 · 总部 CN · 机房 SG / NL | $0.435 / $0.87 | 100% | 2.42 秒 | 42 tokens/秒 | 131,072 |
StreamLake 总部 CN | $0.435 / $0.87 | 98.7% | 2.19 秒 | 32 tokens/秒 | 128K |
PrimaLabs fp8 · fp8 量化 · 总部 US | $4 / $8 | 98.8% | 1.11 秒 | 121 tokens/秒 | 943,718 |
GMICloud
bf16 · bf16 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.326 / $0.653
- 1 天在线率
- 100%
- 延迟
- 3.37 秒
- 速度
- 36 tokens/秒
DeepInfra
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.387 / $0.783
- 1 天在线率
- 100%
- 延迟
- 0.92 秒
- 速度
- 36 tokens/秒
Xiaomi
fp8 · fp8 量化 · 总部 CN · 机房 SG / NL
- 输入 / 输出
- $0.435 / $0.87
- 1 天在线率
- 100%
- 延迟
- 2.42 秒
- 速度
- 42 tokens/秒
StreamLake
总部 CN
- 输入 / 输出
- $0.435 / $0.87
- 1 天在线率
- 98.7%
- 延迟
- 2.19 秒
- 速度
- 32 tokens/秒
PrimaLabs
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $4 / $8
- 1 天在线率
- 98.8%
- 延迟
- 1.11 秒
- 速度
- 121 tokens/秒
价格按每 100 万 tokens 计;延迟和速度是 OpenRouter 在同步时统计的过去 30 分钟中位数,在线率统计过去 1 天。本站每 6 小时同步一次,最近一次在 。
数据来源:Artificial Analysis。价格会变动,以厂商官网为准。 本站模型资料含 1 项来源。
