性能
中位输出速度
模型每秒生成的中位输出 token 数,数值越高越好。
服务商对比
在 OpenRouter 查看同一个模型可以由多家服务商托管,价格、稳定性和速度各不相同。按输出价格从低到高排列。
| 服务商 | 输入 / 输出(每 100 万 tokens) | 1 天在线率 | 延迟 | 速度 | 最大输出 |
|---|---|---|---|---|---|
Wafer nvfp4 · nvfp4 量化 · 总部 US | $0.135 / $0.54 | 99.9% | 1.47 秒 | 75 tokens/秒 | 943,718 |
StreamLake fp8 · fp8 量化 · 总部 CN | $0.135 / $0.54 | 96.2% | 1.86 秒 | 73 tokens/秒 | 512K |
DigitalOcean 总部 US | $0.15 / $0.6 | 100% | 1.43 秒 | 105 tokens/秒 | 943,718 |
Nebius fp4 · fp4 量化 · 总部 NL | $0.15 / $0.6 | 100% | 1.5 秒 | 87 tokens/秒 | 943,718 |
SambaNova 总部 US | $0.15 / $0.6 | 100% | 3.48 秒 | 18 tokens/秒 | 943,718 |
ModelRun fp4 · fp4 量化 · 总部 US · 机房 US | $0.15 / $0.6 | 100% | 0.75 秒 | 126 tokens/秒 | 943,718 |
Inferact vLLM nvfp4 · nvfp4 量化 · 总部 US · 机房 US / FI | $0.15 / $0.6 | 100% | 1.14 秒 | 151 tokens/秒 | 131,072 |
Parasail fp8 · fp8 量化 · 总部 US | $0.15 / $0.6 | 99.9% | 1.38 秒 | 78 tokens/秒 | 524,288 |
InferenceNet fp4/us · fp4 量化 · 总部 US | $0.15 / $0.6 | 98.9% | 0.55 秒 | 81 tokens/秒 | 524,288 |
InferenceNet fp4 · fp4 量化 · 总部 US | $0.15 / $0.6 | 98.8% | 8.22 秒 | 35 tokens/秒 | 524,288 |
Minimax 总部 SG · 机房 US | $0.15 / $0.6 | 98.7% | 1.02 秒 | 98 tokens/秒 | 524,288 |
Together 总部 US | $0.15 / $0.6 | 98.5% | 0.27 秒 | 81 tokens/秒 | 943,718 |
Fireworks 总部 US | $0.15 / $0.6 | 97.2% | 0.42 秒 | 114 tokens/秒 | 943,718 |
Makora fp4 · fp4 量化 | $0.15 / $0.6 | 95.8% | 0.9 秒 | 121 tokens/秒 | 131,072 |
GMICloud fp8 · fp8 量化 · 总部 US · 机房 US | $0.15 / $0.6 | 77.4% | 1.52 秒 | 136 tokens/秒 | 943,718 |
Wafer
nvfp4 · nvfp4 量化 · 总部 US
- 输入 / 输出
- $0.135 / $0.54
- 1 天在线率
- 99.9%
- 延迟
- 1.47 秒
- 速度
- 75 tokens/秒
StreamLake
fp8 · fp8 量化 · 总部 CN
- 输入 / 输出
- $0.135 / $0.54
- 1 天在线率
- 96.2%
- 延迟
- 1.86 秒
- 速度
- 73 tokens/秒
DigitalOcean
总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 100%
- 延迟
- 1.43 秒
- 速度
- 105 tokens/秒
Nebius
fp4 · fp4 量化 · 总部 NL
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 100%
- 延迟
- 1.5 秒
- 速度
- 87 tokens/秒
SambaNova
总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 100%
- 延迟
- 3.48 秒
- 速度
- 18 tokens/秒
ModelRun
fp4 · fp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 100%
- 延迟
- 0.75 秒
- 速度
- 126 tokens/秒
Inferact vLLM
nvfp4 · nvfp4 量化 · 总部 US · 机房 US / FI
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 100%
- 延迟
- 1.14 秒
- 速度
- 151 tokens/秒
Parasail
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 99.9%
- 延迟
- 1.38 秒
- 速度
- 78 tokens/秒
InferenceNet
fp4/us · fp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 98.9%
- 延迟
- 0.55 秒
- 速度
- 81 tokens/秒
InferenceNet
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 98.8%
- 延迟
- 8.22 秒
- 速度
- 35 tokens/秒
Minimax
总部 SG · 机房 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 98.7%
- 延迟
- 1.02 秒
- 速度
- 98 tokens/秒
Together
总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 98.5%
- 延迟
- 0.27 秒
- 速度
- 81 tokens/秒
Fireworks
总部 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 97.2%
- 延迟
- 0.42 秒
- 速度
- 114 tokens/秒
Makora
fp4 · fp4 量化
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 95.8%
- 延迟
- 0.9 秒
- 速度
- 121 tokens/秒
GMICloud
fp8 · fp8 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.15 / $0.6
- 1 天在线率
- 77.4%
- 延迟
- 1.52 秒
- 速度
- 136 tokens/秒
价格按每 100 万 tokens 计;延迟和速度是 OpenRouter 在同步时统计的过去 30 分钟中位数,在线率统计过去 1 天。本站每 6 小时同步一次,最近一次在 。
数据来源:Artificial Analysis。价格会变动,以厂商官网为准。 本站模型资料含 0 项来源。
