性能
中位输出速度
模型每秒生成的中位输出 token 数,数值越高越好。
服务商对比
在 OpenRouter 查看同一个模型可以由多家服务商托管,价格、稳定性和速度各不相同。按输出价格从低到高排列。
| 服务商 | 输入 / 输出(每 100 万 tokens) | 1 天在线率 | 延迟 | 速度 | 最大输出 |
|---|---|---|---|---|---|
Modal 总部 US | $0.34 / $0.1 | 98.3% | 0.49 秒 | 108 tokens/秒 | 117,964 |
DeepInfra flex · fp8 量化 · 总部 US | $0.16 / $0.32 | 97.4% | 2.22 秒 | 24 tokens/秒 | 235,929 |
PrimeIntellect fp8 · fp8 量化 | $0.2 / $0.335 | 99.9% | 0.62 秒 | 36 tokens/秒 | 16,384 |
CoreWeave fp4 · fp4 量化 · 总部 US · 机房 US | $0.1 / $0.34 | 100% | 0.43 秒 | 63 tokens/秒 | 235,929 |
KT 总部 KR · 机房 KR | $0.1 / $0.34 | 99.5% | 1.02 秒 | 118 tokens/秒 | 235,929 |
Venice fp4 · fp4 量化 · 总部 US · 机房 US | $0.12 / $0.36 | 100% | 0.68 秒 | 46 tokens/秒 | 16,384 |
Chutes fp4 · fp4 量化 · 总部 US | $0.12 / $0.37 | 99.1% | 2.97 秒 | 26 tokens/秒 | 65,536 |
Friendli 总部 US | $0.14 / $0.4 | 100% | 0.33 秒 | 122 tokens/秒 | 8,192 |
Crusoe bf16 · bf16 量化 · 总部 US | $0.14 / $0.4 | 96.7% | 0.23 秒 | 55 tokens/秒 | 262,141 |
Novita bf16 · bf16 量化 · 总部 US | $0.14 / $0.4 | 74.3% | 0.53 秒 | 70 tokens/秒 | 131,072 |
NextBit fp4 · fp4 量化 · 总部 ES · 机房 ES | $0.15 / $0.4 | 100% | 0.64 秒 | 88 tokens/秒 | 235,929 |
Parasail fp8 · fp8 量化 · 总部 US | $0.15 / $0.4 | 99.8% | 0.95 秒 | 64 tokens/秒 | 235,929 |
DeepInfra fp8 · fp8 量化 · 总部 US | $0.2 / $0.4 | 99.8% | 0.72 秒 | 25 tokens/秒 | 16,384 |
DeepInfra priority · fp4 量化 · 总部 US | $0.135 / $0.51 | 100% | 0.55 秒 | 61 tokens/秒 | 16,384 |
DeepInfra priority · fp8 量化 · 总部 US | $0.3 / $0.6 | 98.4% | 0.54 秒 | 27 tokens/秒 | 235,929 |
ModelRun fp4 · fp4 量化 · 总部 US · 机房 US | $0.75 / $1 | 100% | 0.11 秒 | 227 tokens/秒 | 235,929 |
SiliconFlow fp8 · fp8 量化 · 总部 SG · 机房 US | $0.75 / $1 | 99.8% | 1.49 秒 | 42 tokens/秒 | 235,929 |
SambaNova 总部 US | $0.38 / $1.15 | 91.4% | 1.2 秒 | 174 tokens/秒 | 117,964 |
Modal
总部 US
- 输入 / 输出
- $0.34 / $0.1
- 1 天在线率
- 98.3%
- 延迟
- 0.49 秒
- 速度
- 108 tokens/秒
DeepInfra
flex · fp8 量化 · 总部 US
- 输入 / 输出
- $0.16 / $0.32
- 1 天在线率
- 97.4%
- 延迟
- 2.22 秒
- 速度
- 24 tokens/秒
PrimeIntellect
fp8 · fp8 量化
- 输入 / 输出
- $0.2 / $0.335
- 1 天在线率
- 99.9%
- 延迟
- 0.62 秒
- 速度
- 36 tokens/秒
CoreWeave
fp4 · fp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.1 / $0.34
- 1 天在线率
- 100%
- 延迟
- 0.43 秒
- 速度
- 63 tokens/秒
KT
总部 KR · 机房 KR
- 输入 / 输出
- $0.1 / $0.34
- 1 天在线率
- 99.5%
- 延迟
- 1.02 秒
- 速度
- 118 tokens/秒
Venice
fp4 · fp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.12 / $0.36
- 1 天在线率
- 100%
- 延迟
- 0.68 秒
- 速度
- 46 tokens/秒
Chutes
fp4 · fp4 量化 · 总部 US
- 输入 / 输出
- $0.12 / $0.37
- 1 天在线率
- 99.1%
- 延迟
- 2.97 秒
- 速度
- 26 tokens/秒
Friendli
总部 US
- 输入 / 输出
- $0.14 / $0.4
- 1 天在线率
- 100%
- 延迟
- 0.33 秒
- 速度
- 122 tokens/秒
Crusoe
bf16 · bf16 量化 · 总部 US
- 输入 / 输出
- $0.14 / $0.4
- 1 天在线率
- 96.7%
- 延迟
- 0.23 秒
- 速度
- 55 tokens/秒
Novita
bf16 · bf16 量化 · 总部 US
- 输入 / 输出
- $0.14 / $0.4
- 1 天在线率
- 74.3%
- 延迟
- 0.53 秒
- 速度
- 70 tokens/秒
NextBit
fp4 · fp4 量化 · 总部 ES · 机房 ES
- 输入 / 输出
- $0.15 / $0.4
- 1 天在线率
- 100%
- 延迟
- 0.64 秒
- 速度
- 88 tokens/秒
Parasail
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.15 / $0.4
- 1 天在线率
- 99.8%
- 延迟
- 0.95 秒
- 速度
- 64 tokens/秒
DeepInfra
fp8 · fp8 量化 · 总部 US
- 输入 / 输出
- $0.2 / $0.4
- 1 天在线率
- 99.8%
- 延迟
- 0.72 秒
- 速度
- 25 tokens/秒
DeepInfra
priority · fp4 量化 · 总部 US
- 输入 / 输出
- $0.135 / $0.51
- 1 天在线率
- 100%
- 延迟
- 0.55 秒
- 速度
- 61 tokens/秒
DeepInfra
priority · fp8 量化 · 总部 US
- 输入 / 输出
- $0.3 / $0.6
- 1 天在线率
- 98.4%
- 延迟
- 0.54 秒
- 速度
- 27 tokens/秒
ModelRun
fp4 · fp4 量化 · 总部 US · 机房 US
- 输入 / 输出
- $0.75 / $1
- 1 天在线率
- 100%
- 延迟
- 0.11 秒
- 速度
- 227 tokens/秒
SiliconFlow
fp8 · fp8 量化 · 总部 SG · 机房 US
- 输入 / 输出
- $0.75 / $1
- 1 天在线率
- 99.8%
- 延迟
- 1.49 秒
- 速度
- 42 tokens/秒
SambaNova
总部 US
- 输入 / 输出
- $0.38 / $1.15
- 1 天在线率
- 91.4%
- 延迟
- 1.2 秒
- 速度
- 174 tokens/秒
价格按每 100 万 tokens 计;延迟和速度是 OpenRouter 在同步时统计的过去 30 分钟中位数,在线率统计过去 1 天。本站每 6 小时同步一次,最近一次在 。
数据来源:Artificial Analysis。价格会变动,以厂商官网为准。 本站模型资料含 5 项来源。
